INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Thema geschlossen 

Fehler mit Vergleichsoperatoren



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

01.07.2010, 10:17 (Dieser Beitrag wurde zuletzt bearbeitet: 01.07.2010 10:18 von GerdW.)
Beitrag #11

GerdW Offline
______________
LVF-Team

Beiträge: 17.488
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
Fehler mit Vergleichsoperatoren
Hallo max,

"anschließend eine Division mit 100 durch ... und tada !!! Das VI macht das, was es machen soll"
Jetzt vielleicht. Aber später, irgendwann, mit anderen Zahlenbereichen...

Deine Addition ist weiterhin (rundungs-)fehlerbehaftet. Das Konvertieren nach I32 rundet deinen Wert - mit möglicherweise weiterer, ungewünschter Rundung. Die Division mit 100 führt weitere "Rechenfehler" ein, da 1/100 wie auch schon 1/10 nicht als (endlicher) Binärbruch darstellbar ist...
Rechnen mit Gleitkommazahlen kann so "unschön" seinSmile

Alle Beiträge dieses Benutzers finden
to top
30
Thema geschlossen 


Nachrichten in diesem Thema
Fehler mit Vergleichsoperatoren - Achim - 01.07.2010, 06:31
Fehler mit Vergleichsoperatoren - jg - 01.07.2010, 07:55
Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 08:25
Fehler mit Vergleichsoperatoren - jg - 01.07.2010, 09:27
Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 09:41
Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010 10:17
Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:18
Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:52
Fehler mit Vergleichsoperatoren - Y-P - 01.07.2010, 18:54

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Fehler -209836, jetzt auch Fehler -1950679023 IchSelbst 3 1.560 19.12.2024 09:35
Letzter Beitrag: IchSelbst
  "Seltsamer Fehler", LabView-Anwendung erzeugt einen Fehler 2200 ASM 5 8.059 23.01.2011 17:40
Letzter Beitrag: Y-P

Gehe zu: