Problem mit Vergleichsfunktion

Hallo zusammen,

ich hab ein relativ banales Problem was mir im Rahmen meiner Datenauswertung aufgefallen ist. Im angehängten VI wandle ich zwei Strings in Fließkommazahlen um und subtrahiere sie voneinander, um sie anschließend mit einer Fließkommazahl zu vergleichen. Ich nehme mal an das ich hier irg.was bei den Datenformaten durcheinandergewürfelt habe. Es wäre nett wenn mir jemand von euch erklären könnte warum bei diesem Vergleich nicht true ausgegeben wird.

Vielen Dank,
Gruß bubbl

Anzeige

Guten Morgen,

auf Gleichheit zu prüfen ist in diesem Fall nicht die beste Lösung. Besser ist es zu prüfen ob sich das Ergebnis in einem bestimmten Intervall befindet oder so. Was genau das Problem ist kannst du im angehängten VI erkennen.

Gruß Ome

Hallo bubbl,

so sieht dein VI aus, wenn man das Anzeigeformat für deine Konstante ändert:
   

Warum das so ist, wurde hier (und im NI-Forum) schon so oft erläutert, dass manche Leute damit schon ihre Pensionskasse aufbessern
(Antwort: "0.01" kann mit einem DBL-Wert nicht dargestellt werden...)

NEVER COMPARE DBLs FOR EQUALITY!!!

Guten morgen,

vielen Dank euch beiden, jetzt macht das ganze auch für mich Sinn

Gruß bubbl