+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: double Wert ist unterschiedlich (/Thread-double-Wert-ist-unterschiedlich)
double Wert ist unterschiedlich - calimero - 20.01.2006 11:11
Hallo,
ich habe folgendes Problem:
ich vergleiche zwei double-Werte der eine bekomme ich von einer DLL und der andere errechne ich mit der Multiplikations-Funktion von LV.
Leider bekomme ich da nur ab und zu ein TRUE geliefert obwohl die Werte gleich sind.
z.B:
DLL: 13.50
LV: 13.50
Ich vermute das vielleicht an irgendeiner hinteren Nachkommastelle die Werte sich unterscheiden.
Wie kann man dieses Problem in den Griff bekommen?
Gruss
calimero
double Wert ist unterschiedlich - Mr.T - 20.01.2006 11:34
Das kommt zum beispiel darauf an, wie genau dieser Zahlenvergleich sein soll.
Spontan fällt mir ein: Auf nächst größere Zahl runden. Um die Kommastellen miteinzubeziehen kannst du vor dem runden ja beide Zahlen z.B. mit 1000 multiplizieren.
Gruß