Fehler mit Vergleichsoperatoren

Baumstrukturmodus | Linearer Modus

Fehler mit Vergleichsoperatoren

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

01.07.2010, 09:27 (Dieser Beitrag wurde zuletzt bearbeitet: 01.07.2010 19:52 von jg.)

Beitrag #7

CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland

Fehler mit Vergleichsoperatoren

' schrieb:Hmmmm ... das ist sehr komisch ...

Überhaupt nicht komisch!

Lektüre:
http://de.wikipedia.org/wiki/Gleitkommazahl
http://de.wikipedia.org/wiki/IEEE_754

Wenn man weiß, dass eine Gleitkommazahl intern in einem Computer immer irgendwas der Art a*2^(b) ist, dann wird es vielleicht klarer. Daraus folgt z.B. dass 0,1 nicht exakt als Gleitkommazahl dargestellt werden kann, aber z.B. 0,5 oder 0,25 schon.

Zusätzlich kommen dann noch Rundungsfehler beim Addieren hinzu.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.

« Ein Thema zurück | Ein Thema vor »

Nachrichten in diesem Thema

Fehler mit Vergleichsoperatoren - max1185 - 30.06.2010, 22:31

Fehler mit Vergleichsoperatoren - Achim - 01.07.2010, 06:31

Fehler mit Vergleichsoperatoren - jg - 01.07.2010, 07:55

Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 08:25

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 08:57

Fehler mit Vergleichsoperatoren - IchSelbst - 01.07.2010, 09:16

Fehler mit Vergleichsoperatoren - jg - 01.07.2010 09:27

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 09:41

Fehler mit Vergleichsoperatoren - RoLe - 01.07.2010, 09:41

Fehler mit Vergleichsoperatoren - IchSelbst - 01.07.2010, 10:01

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 10:17

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 10:56

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:18

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 11:44

Fehler mit Vergleichsoperatoren - GerdW - 01.07.2010, 11:52

Fehler mit Vergleichsoperatoren - Y-P - 01.07.2010, 18:54

Fehler mit Vergleichsoperatoren - max1185 - 01.07.2010, 19:21

Möglicherweise verwandte Themen...
Themen		Verfasser	Antworten	Views	Letzter Beitrag
	"Seltsamer Fehler", LabView-Anwendung erzeugt einen Fehler 2200	ASM	5	7.832	23.01.2011 17:40 Letzter Beitrag: Y-P

Gehe zu:

Das Forum für LabVIEW-Entwickler

Fehler mit Vergleichsoperatoren