INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Ungenauigkeit von Floatingpoint (allgemein)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

23.07.2010, 10:59 (Dieser Beitrag wurde zuletzt bearbeitet: 23.07.2010 11:02 von jg.)
Beitrag #4

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Ungenauigkeit von Floatingpoint (allgemein)
http://de.wikipedia.org/wiki/IEEE_754

Numerische Operationen für Gleitkommazahlen sind in einem Computer NIE genau! Es wird immer einen Fehler geben.
Ein grundsätzliches Problem ist z.B. das Addieren von einer "sehr großen" und einer "sehr kleinen" Zahl.
Oder vielfaches Addieren ein- und derselben Zahlen, da sich dort die Rundungsfehler addieren.

Ist so, war schon immer so, wird wahrscheinlich auch noch länger so bleiben.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Ungenauigkeit von Floatingpoint (allgemein) - jg - 23.07.2010 10:59

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LV allgemein: Labels der VIs im block diagram immer anzeigen laumann 10 8.688 05.02.2016 09:44
Letzter Beitrag: Freddy
  Systeminformationen Allgemein ermitteln dbuckl 14 8.058 24.03.2015 10:20
Letzter Beitrag: GerdW
  [Allgemein] Hilfe bei Euler-Winkeln Yantit 1 2.978 09.03.2011 08:17
Letzter Beitrag: Yantit
  LabVIEW Allgemein kcccp 11 10.375 06.07.2009 15:00
Letzter Beitrag: kcccp
  DataSocket allgemein Snoop2000 3 4.634 16.04.2008 03:58
Letzter Beitrag: thomas.sandrisser
  Reihenfolge von 2 Case-Strukturen bzw. Case-Struktur allgemein Bob 2 5.162 10.08.2007 14:52
Letzter Beitrag: Bob

Gehe zu: