INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

LED Problem



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

13.04.2011, 14:03 (Dieser Beitrag wurde zuletzt bearbeitet: 13.04.2011 14:14 von Lucki.)
Beitrag #2

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
RE: LED Problem
Bekanntes Problem: Bei Gleitkommazahlen kann man sich nie darauf verlassen, daß ein Rechenergebnis, bei dem Null herauskommen sollte, auch wirklich Null ist. Es ist z.B nur Null innerhalb einer Toleranz von 10 Stellen nach dem Komma, nicht aber absolut. Wenn Du Dir bei der Zahl mal 20 Stellen anzeigen läßt, wirst Du das merken.
Lösung z.B: Prüfen auf Null durch "Wertebereich prüfen" ersetzen.
Es handelt sich hier also nicht um ein "LED-Problem", sondern um ein "Gleitkommaformat-Problem"
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
LED Problem - Houfa - 13.04.2011, 13:39
RE: LED Problem - Lucki - 13.04.2011 14:03
RE: LED Problem - toaran_ - 13.04.2011, 14:57

Gehe zu: