Zahlenverwirrung // 2.85 != 2.85?

Dieses Thema hat akzeptierte Lösungen:

Baumstrukturmodus | Linearer Modus

Zahlenverwirrung // 2.85 != 2.85?

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

17.04.2012, 14:10 (Dieser Beitrag wurde zuletzt bearbeitet: 17.04.2012 14:11 von jg.)

Beitrag #3

CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland

RE: Zahlenverwirrung // 2.85 != 2.85?

Schon mal die Anzahl der Nachkommastellen erhöht?

Gleichheitsvergleich bei Fließkommazahlen funktioniert sehr gerne mal nicht.

Gruß, Jens

EDIT: Mist, Achim war schneller. Wink

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.