' schrieb:Einer der Grundsätze in allen Programmiersprache ist:
Vergleiche NIEMALS eine Floatingpointzahl auf Gleichheit sondern immer auf grösser oder kleiner, aus eben erwähnter Problematik.
Eine Möglichkeit wäre den Wert mal 10^x (x=Stelle der benötigten Zahl) zu rechnen und einen Integer zu verwenden, da das Problem nur bei Kommazahlen besteht
Gruss MNussbaumer
Ich vergleiche die Zahlen nicht, aber ich muss eine sehr kleine Kommazahl und eine kleine Kommazahl addieren.
Die Werte brauche ich später auch wieder für weitere Berechnungen.
Wenn ich das alles mal 10^x nehme habe ich ja immernoch das Problem, dass ich es nachher wieder in eine Kommazahl zurück wandeln muss und dann stehe ich doch wieder vor dem selben Problem.
' schrieb:Erweiterte Genauigkeit...
[attachment=56919:Unbenann...11_33_03.png]
funzt/funzt nicht?
Gruß SeBa
Funktioniert leider nicht, das habe ich auch schon ausprobiert. Bei Dir scheint es ja merkwürdigerweise zu funktionieren.
Testweise hatte ich mal das Selbe programmiert, bekomme aber den gleichen Fehler wie vorher.
' schrieb:http://de.wikipedia.org/wiki/IEEE_754
Numerische Operationen für Gleitkommazahlen sind in einem Computer NIE genau! Es wird immer einen Fehler geben.
Ein grundsätzliches Problem ist z.B. das Addieren von einer "sehr großen" und einer "sehr kleinen" Zahl.
Oder vielfaches Addieren ein- und derselben Zahlen, da sich dort die Rundungsfehler addieren.
Ist so, war schon immer so, wird wahrscheinlich auch noch länger so bleiben.
Gruß, Jens
Da gibt es kein Weg dran vorbei? Es wird doch fast alles mit Computern berechnet, das kann ich mir nicht vorstellen. Taschenrechner bekommen es doch auch hin, es muss dazu doch eine Lösung in LabView geben
' schrieb:fuer lesefaule: http://floating-point-gui.de/
fuer streber: http://docs.sun.com/source/806-3568/ncg_goldberg.html
Das ist ja der Link, den ich auch schon in meinem Ausgangsposting angegeben habe. Leider existieren, die dort erwähnten dezimalen Datentypen, die das Problem umgehen sollen nicht in LabView oder ich bin zu doof sie zu finden.
' schrieb:Es gibt ja auch das neue Format "Festkomma" (FXP). Wer also seine Milliarden-Transaktionen auf dem Finanzmarkt immer auf den letzten Pfennig genau berechnen will und dazu Labview verwendet - mit diesem Formt liegt er richtig.
Bei Gleitkommazahlen muß die Frage, ob 0.1 + 0.2 = 0.3 ist, unter Berücksichtigung der Maschinentoleranz gestellt werden. Dann kommt duchaus ein "Ja" heraus - es ist aber umständlich immer so zu fragen:
[attachment=56934:clip.png]
Das FXP Format hatte ich mir auch angesehen, aber das löst mein Problem leider auch nicht. Den Vergleich kann ich leider schlecht machen, da ich ja nicht weiß was für eine Zahl rauskommt, das soll ja berechnet werden.
