+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: String to Double Problem (/Thread-String-to-Double-Problem)
String to Double Problem - joerg030284 - 09.06.2017 13:33
Hallo!
Habe das Problem siehe Screenshot. Warum kann Labview den String nicht genau übernehmen?
Danke für die Hilfe,
Jörg
RE: String to Double Problem - rolfk - 09.06.2017 13:49
(09.06.2017 13:33 )joerg030284 schrieb: Hallo!
Habe das Problem siehe Screenshot. Warum kann Labview den String nicht genau übernehmen?
Danke für die Hilfe,
Jörg
Das hatten wir schon x Mal hier. Gleitkommazahlen können die meisten Werte nur bei Annäherung beschreiben. Solange Du weniger als die mögliche Anzahl Dezimalstellen sichtbar machst in einem numerischen Kontroll solltest Du davon normalerweise nichts sehen. Aber eine DOUBLE Gleitkommazahl kan nur ungefähr 16 Dezimalen korrekt beinhalten. Wenn Du dann mehr dann 16 Dezimalen im Kontroll sichtbar machst, kommt es zu diesem scheinbaren Problem. Um jede mögliche Gleitkommazahl genau exakt darstellen zu können müsste das Format unendlich viele Bytes per Zahl beinhalten können und das ist auch mit noch so integrierten Speicherbausteinen keine Option.
Siehe dazu auch https://de.wikipedia.org/wiki/Gleitkommazahl (ist schon recht ausführlich aber wenn Du auf Englisch suchst kannst Du noch VIEL mehr finden)!