INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Kleiner/gleich vergleich versagt



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

29.01.2008, 10:23 (Dieser Beitrag wurde zuletzt bearbeitet: 29.01.2008 10:59 von Lucki.)
Beitrag #3

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
Kleiner/gleich vergleich versagt
Der Vergleich von Realzahlen auf Gleichheit funktioniert nur selten. Sie sind (- bei unterschiedlichen Rechenoperatinen -) nie gleich, sondern immer nur gleich innerhalb der Maschinengenauigkeit epsilon. Diese Konstante (siehe in der Funktionspalette unter numerisch) hat für double den Wert 2.22E-16. Wahrscheinlich kann bei mehreren Rechenoperationen hintereinander die resultierende Toleranz auch größer sein als Epsilon. Man sollte also, wenn es darauf ankommt, die Gleichheitprüfung durch die Prüfung, ob sie innerhalb der Toleranz Epsilon gleich sein, ersetzen.
Konkret: Die Zahl, die Du mit 2 vergleichst, hat in Wirklichkeit diesen Wert: (uups, das ist nicht die 2, aber Du verstehst schon)
   


Zitat:In einem Teil meines Programms, wo 2 Werte verglichen werden,
Mein Deutschlehrer hätte verzweifelt gerufen "Wo nur bei Ortsangaben, wie oft muß ich das noch sagen!"

edit: @Achim: ich würde das so erklären, daß Größe (und Vorzeichen) der Ungenauikeit abhängig von Startwert ist, so daß es bei einem Wert funktioniert, bei einem anderen nicht.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Kleiner/gleich vergleich versagt - Lucki - 29.01.2008 10:23
Kleiner/gleich vergleich versagt - VDB - 29.01.2008, 10:27
Kleiner/gleich vergleich versagt - eg - 29.01.2008, 10:46
Kleiner/gleich vergleich versagt - VDB - 29.01.2008, 10:53

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Mittelwert wenn Werte in erster Spalte gleich marc_ampa 6 5.023 21.03.2022 08:38
Letzter Beitrag: marc_ampa
  Vergleich zweier Zahlen LabViewPete 13 12.476 27.10.2020 12:52
Letzter Beitrag: THL
  Mehrfach Vergleich auf Gleichheit MicroScoop 7 6.235 13.08.2019 14:21
Letzter Beitrag: MicroScoop
  String Vergleich erklären 911tom 3 4.801 12.07.2017 17:51
Letzter Beitrag: jg
  Array-Vergleich und Mittelwertbildung domdom 4 4.729 15.05.2017 10:59
Letzter Beitrag: jg
  Vergleich und Neusortierung zweier Arrays domdom 6 5.869 30.11.2016 09:13
Letzter Beitrag: domdom

Gehe zu: