title image


Smiley Re: Falsches Ergebnis bei einfacher Berechnung
Hallo



Wo ist bei Dir dann das Problem?



Dim dZahl1 As Double, dZahl2 As Double, dZahl3 As Double

Dim sZahl1 As Single, sZahl2 As Single, sZahl3 As Single

Dim sResult As String

dZahl1 = -1043.6

dZahl2 = 600

dZahl3 = 443.7

sZahl1 = -1043.6

sZahl2 = 600

sZahl3 = 443.7

sResult = "Resultate für -1043.6 + 600 + 443.7:" + Chr(10) + Chr(10)

sResult = sResult + "Falsch: " + CStr(-1043.6 + 600 + 443.7) + " Unbestimmter Datentyp => Vatiant" + Chr(10)

sResult = sResult + "Richtig: " + CStr(dZahl1 + dZahl2 + dZahl3) + " Doppelte Genauigkeit" + Chr(10)

sResult = sResult + "Richtig: " + CStr(sZahl1 + sZahl2 + sZahl3) + " Einfache Genauigkeit"

MsgBox sResult

End



Bei mir jedenfalls (VB6 / SP6) ergibt die Rechnung bei Double und Single immer 0.1 und nicht 0.0999999999999256 oder ein anderer Wert wir bei Dir.



Tja... Dann kann ich Dir wohl nicht weiterhelfen, bei mir ist's Ok ;)



EDIT:



Dim cZahl1 As Currency, cZahl2 As Currency, cZahl3 As Currency

cZahl1 = -1043.6

cZahl2 = 600

cZahl3 = 443.7

MsgBox CStr(cZahl1 + cZahl2 + cZahl3) + " Währungsdatentyp" + Chr(10)



Nu zufrieden?



Gruss THORAX





geschrieben von

Login

E-Mail:
  

Passwort:
  

Beitrag anfügen

Symbol:
 
 
 
 
 
 
 
 
 
 
 
 
 

Überschrift: