title image


Smiley Re: Problem bei double: 0.1 * 0.1 = 0.010000000000000002
Du hast schon von Anfang an den ersten Fehler gemacht:

Es gibt keine Universal-Lösung, damit alle Möglichen Berechnungen ausreichend genau durchgeführt werden. Überlege dir die genaue Formel oder Funktion, die du berechnen willst und diese musst du dann für numerische Berechnung optimieren. So kann ein und die selbe mathematische Funktion - je nachdem, wie du sie umstellt - mehr oder weniger genaue Ergebnisse liefern. Du müsstest dich mit der internen Darstellung der Werte im RAM beschäftigen, um die Fehler nachvollziehen zu können.

Abgesehen davon: wofür brauchst du ein EXAKTES Ergebnis? Der Fehler in deinem Beispiel ist prozentual minimal und kann normalerweise vernachlässigt werden. Den gleichen Effekt hast du bei Taschenrechnern. Mal folgendes gerechnet?



1 / 3 = [Ergebnis]

[Ergebnis] * 3 = 0.99999999999

geschrieben von

Login

E-Mail:
  

Passwort:
  

Beitrag anfügen

Symbol:
 
 
 
 
 
 
 
 
 
 
 
 
 

Überschrift: