title image


Smiley Es kommt noch schlimmer.....
Hallo Boris,



=REST(44/5;1)-0.8 formatiert im Wissenschaftlichen Format ergibt: 0,00E+00. Also offensichtlich kein Rundungsfehler.



Aber mal ernsthaft: der Grund liegt im Fliesskommaformat IEEE 754 (google mal!). Dort wird eine Excelzahl als Zweierlogarithmus mit einer Mantisse von 52 Bit dargestellt. Leider passt die Division durch 5 nicht in das Zweiersystem und so muss auf jeden Fall gerundet werden. Daher kommt der Fehler: Die Konstante 0,8 wird im Prozessor anders aufgebaut als eine Division.



Gruss

Klaus

geschrieben von

Login

E-Mail:
  

Passwort:
  

Beitrag anfügen

Symbol:
 
 
 
 
 
 
 
 
 
 
 
 
 

Überschrift: