INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

ein Vergleich mit Fehlerhafter Ausgabe



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

15.01.2011, 16:32 (Dieser Beitrag wurde zuletzt bearbeitet: 15.01.2011 16:44 von macmarvin.)
Beitrag #2

macmarvin Offline
CLA
***


Beiträge: 445
Registriert seit: Sep 2006

2014
2004
EN

81373
Deutschland
ein Vergleich mit Fehlerhafter Ausgabe
Der Vergleich von Gleichheit von Fließkommazahlen ist immer kritisch.

Die Ungleichheit kommt von Rundungseffekten.

Edit: Lies dir z.B. http://floating-point-gui.de/ mal durch... dann sollten alle Klarheiten beseitigt sein.
Edit2: siehe auch http://www.labviewforum.de/index.php?showtopic=17094
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
ein Vergleich mit Fehlerhafter Ausgabe - macmarvin - 15.01.2011 16:32

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Vergleich zweier Zahlen LabViewPete 13 12.463 27.10.2020 12:52
Letzter Beitrag: THL
  Mehrfach Vergleich auf Gleichheit MicroScoop 7 6.235 13.08.2019 14:21
Letzter Beitrag: MicroScoop
  String Vergleich erklären 911tom 3 4.801 12.07.2017 17:51
Letzter Beitrag: jg
  Array-Vergleich und Mittelwertbildung domdom 4 4.724 15.05.2017 10:59
Letzter Beitrag: jg
  Vergleich und Neusortierung zweier Arrays domdom 6 5.869 30.11.2016 09:13
Letzter Beitrag: domdom
  Beim vergleich kommt anscheinend schon kein boolscher Wert raus noled 3 4.641 04.12.2015 09:35
Letzter Beitrag: Lucki

Gehe zu: