Quickcomputerstips
Flytende punkt
Hva enhver informatiker bør vite om flytepunkt-aritmetikk
Hvorfor trenger vi aritmetikk med flyttall? Et flyttallsystem kan brukes til å representere, med et fast antall sifre, tall av forskjellige størrelses...
Teorem om tap av presisjon
Hva er tap av presisjon? Tap av signifikans er en uønsket effekt i beregninger ved bruk av aritmetikk med begrenset presisjon, for eksempel flytepunkt...
Hva brukes flyttallsenheten til på prosessorsystemet?
Hva er en flyttallsprosessor? Flytpunktprosessoren gir instruksjoner for å utføre aritmetikk, sammenligning og andre operasjoner. POWER®-familien og P...