title image


Smiley Re: Falsches Ergebnis bei einfacher Berechnung
Hi!



Leute, wenn man -1043.6 + 600 + 443.7 rechnet, kommt da 0.1 'raus, das kann man sogar im Kopf nachrechnen. 0.1 ist das exakt richtige Ergebnis und nicht 0.0999999999999256, so daß man VB zugute halten könnte, es hätte genauer gerechnet und dann eben anders gerundet. Was VB da heraus bekommt, ist schlicht und einfach falsch.

Und mein erstes Zahlenbeispiel -1043.6 + 600 + 443.6 (man beachte hier die Sechs hinter dem Komma bei der dritten Zahl) wird, wenn ich die Variablen als Integers definiere, umgewandelt in -1043 + 600 + 443. Das ist zwar auch gleich Null, aber -1043.6 + 600 + 443.6 = 0 ist nun mal was anderes als -1043 + 600 + 443 = 0.

Mit als Single definierten Variablen klappt's übrigens auch nicht.



Der grübelnde

BAGZZlash

geschrieben von

Login

E-Mail:
  

Passwort:
  

Beitrag anfügen

Symbol:
 
 
 
 
 
 
 
 
 
 
 
 
 

Überschrift: