Genauigkeit

Hallo,

wenn ich in ein Double-Anzeigeelement den Wert 0,00267219633160888 reinkopiere, ändert LabVIEW den Wert, sobald ich rausspringe zu 0,00267219633160888006. Es wird also 006 angehängt. Nicht dass das irgendwas ausmacht, es würde mich aber interessieren, warum das passiert. Hat das was mit der Maschinengenauigkeit zu tun?

Gruß

Philipp

Anzeige

Das macht nicht nur LabVIEW so, das macht jede Programmiersprache bei einem Datentyp Float oder Double, oder allgemeiner bei einer Gleitkommazahl so.
http://de.wikipedia.org/wiki/Gleitkommazahl

Das Thema gab es in dieser oder abgewandelter Form schon x-mal hier.

Und ja, man kann das auch mit dem Schlagwort "Maschinengenauigkeit" in Verbindung bringen.

Gruß, Jens

OK, danke. Der Artikel ist ziemlich interessant.

Philipp