INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

ein Vergleich mit Fehlerhafter Ausgabe



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

15.01.2011, 16:24
Beitrag #1

NasforNos Offline
LVF-Neueinsteiger


Beiträge: 3
Registriert seit: Jan 2011

10
2010
de


Deutschland
ein Vergleich mit Fehlerhafter Ausgabe
Hallo,

ich benutze einen Verlgeich von 2 Zahlen (siehe Bild) und bekomme eine falsche Entscheidung. Wie kann ich das ändern um ein true zu bekommen?
Kann mir jemand helfen?


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
15.01.2011, 16:32 (Dieser Beitrag wurde zuletzt bearbeitet: 15.01.2011 16:44 von macmarvin.)
Beitrag #2

macmarvin Offline
CLA
***


Beiträge: 445
Registriert seit: Sep 2006

2014
2004
EN

81373
Deutschland
ein Vergleich mit Fehlerhafter Ausgabe
Der Vergleich von Gleichheit von Fließkommazahlen ist immer kritisch.

Die Ungleichheit kommt von Rundungseffekten.

Edit: Lies dir z.B. http://floating-point-gui.de/ mal durch... dann sollten alle Klarheiten beseitigt sein.
Edit2: siehe auch http://www.labviewforum.de/index.php?showtopic=17094
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.01.2011, 17:04
Beitrag #3

NasforNos Offline
LVF-Neueinsteiger


Beiträge: 3
Registriert seit: Jan 2011

10
2010
de


Deutschland
ein Vergleich mit Fehlerhafter Ausgabe
hey, vielen Dank, hab das jetzt mit Vergleichen gemacht..
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
16.01.2011, 19:10
Beitrag #4

GerdW Offline
______________
LVF-Team

Beiträge: 17.467
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
ein Vergleich mit Fehlerhafter Ausgabe
Hallo NasforNos,

Zitat:Wie kann ich das ändern um ein true zu bekommen?
Einfach ein NOT in den letzten Draht einfügenSmile(Sorry, musste einfach sein...)

Ansonsten: Marvin hat ja schon alles erklärt. Beim nächsten Mal statt Probes mit richtigen Indicators arbeiten und dann auch 17 Stellen (statt nur 3) anzeigen lassen...

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Vergleich zweier Zahlen LabViewPete 13 12.441 27.10.2020 12:52
Letzter Beitrag: THL
  Mehrfach Vergleich auf Gleichheit MicroScoop 7 6.224 13.08.2019 14:21
Letzter Beitrag: MicroScoop
  String Vergleich erklären 911tom 3 4.794 12.07.2017 17:51
Letzter Beitrag: jg
  Array-Vergleich und Mittelwertbildung domdom 4 4.712 15.05.2017 10:59
Letzter Beitrag: jg
  Vergleich und Neusortierung zweier Arrays domdom 6 5.863 30.11.2016 09:13
Letzter Beitrag: domdom
  Beim vergleich kommt anscheinend schon kein boolscher Wert raus noled 3 4.631 04.12.2015 09:35
Letzter Beitrag: Lucki

Gehe zu: