+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: ein Vergleich mit Fehlerhafter Ausgabe (/Thread-ein-Vergleich-mit-Fehlerhafter-Ausgabe)
ein Vergleich mit Fehlerhafter Ausgabe - NasforNos - 15.01.2011 16:24
Hallo,
ich benutze einen Verlgeich von 2 Zahlen (siehe Bild) und bekomme eine falsche Entscheidung. Wie kann ich das ändern um ein true zu bekommen?
Kann mir jemand helfen?
ein Vergleich mit Fehlerhafter Ausgabe - macmarvin - 15.01.2011 16:32
Der Vergleich von Gleichheit von Fließkommazahlen ist immer kritisch.
Die Ungleichheit kommt von Rundungseffekten.
Edit: Lies dir z.B. http://floating-point-gui.de/ mal durch... dann sollten alle Klarheiten beseitigt sein.
Edit2: siehe auch http://www.labviewforum.de/index.php?showtopic=17094
ein Vergleich mit Fehlerhafter Ausgabe - NasforNos - 15.01.2011 17:04
hey, vielen Dank, hab das jetzt mit Vergleichen gemacht..
ein Vergleich mit Fehlerhafter Ausgabe - GerdW - 16.01.2011 19:10
Hallo NasforNos,
Zitat:Wie kann ich das ändern um ein true zu bekommen?Einfach ein NOT in den letzten Draht einfügen
(Sorry, musste einfach sein...)Ansonsten: Marvin hat ja schon alles erklärt. Beim nächsten Mal statt Probes mit richtigen Indicators arbeiten und dann auch 17 Stellen (statt nur 3) anzeigen lassen...