INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Genauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

15.08.2012, 11:17
Beitrag #1

DrHoas Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 117
Registriert seit: Oct 2007

2011
2007
DE


Deutschland
Genauigkeit
Hallo,

wenn ich in ein Double-Anzeigeelement den Wert 0,00267219633160888 reinkopiere, ändert LabVIEW den Wert, sobald ich rausspringe zu 0,00267219633160888006. Es wird also 006 angehängt. Nicht dass das irgendwas ausmacht, es würde mich aber interessieren, warum das passiert. Hat das was mit der Maschinengenauigkeit zu tun?

Gruß

Philipp
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.08.2012, 11:38
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Genauigkeit
Das macht nicht nur LabVIEW so, das macht jede Programmiersprache bei einem Datentyp Float oder Double, oder allgemeiner bei einer Gleitkommazahl so.
http://de.wikipedia.org/wiki/Gleitkommazahl

Das Thema gab es in dieser oder abgewandelter Form schon x-mal hier.

Und ja, man kann das auch mit dem Schlagwort "Maschinengenauigkeit" in Verbindung bringen.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
15.08.2012, 12:10
Beitrag #3

DrHoas Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 117
Registriert seit: Oct 2007

2011
2007
DE


Deutschland
RE: Genauigkeit
OK, danke. Der Artikel ist ziemlich interessant.

Philipp
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Genauigkeit passt nicht(String nach Zahl und dann in Array) Bobbycartuner 2 5.282 03.11.2010 16:51
Letzter Beitrag: Bobbycartuner
  Genauigkeit des Zeitstempels erhöhen Lenkrad 3 4.534 07.07.2008 09:11
Letzter Beitrag: Lenkrad

Gehe zu: