LabVIEWForum.de

Hallo,

ich habe folgendes Problem:

ich vergleiche zwei double-Werte der eine bekomme ich von einer DLL und der andere errechne ich mit der Multiplikations-Funktion von LV.
Leider bekomme ich da nur ab und zu ein TRUE geliefert obwohl die Werte gleich sind.
z.B:
DLL: 13.50
LV: 13.50

Ich vermute das vielleicht an irgendeiner hinteren Nachkommastelle die Werte sich unterscheiden.
Wie kann man dieses Problem in den Griff bekommen?

Gruss
calimero

Das kommt zum beispiel darauf an, wie genau dieser Zahlenvergleich sein soll.
Spontan fällt mir ein: Auf nächst größere Zahl runden. Um die Kommastellen miteinzubeziehen kannst du vor dem runden ja beide Zahlen z.B. mit 1000 multiplizieren.

Gruß