LabVIEWForum.de - String in Double wird gerundet

LabVIEWForum.de

Normale Version: String in Double wird gerundet
Du siehst gerade eine vereinfachte Darstellung unserer Inhalte. Normale Ansicht mit richtiger Formatierung.
Hey Leute,
ich bekomme einen String-Array mit 5 Werten und muss diese für weitere Berechnungen in Double konvertieren. Soweit habe ich das auch hinbekommen, aber manchmal werden einige Zahlen gerundet. Kann ich LabView irgendwie sagen, dass ich zb immer 6 Nachkommastellen haben möchte? Zur Verdeutlichung des Problems habe ich mal ein Bild angehangen.
Vielen Dank
Ändere die Darstellung im Frontpanel! Rechtsklick auf Numeric -> Display Format

Gruß, Jens
Super, vielen Dank!
Manchmal ist die Lösung so einfach. Ich hatte zwar sechs Stellen eingestellt, aber der Genauigkeitstyp war auf "signifikante Stellen" statt "Kommastellen" gestellt. Wenn ich das richtig verstehe ist das aber nur eine Einstellung der Anzeige, oder? Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?
Beste Grüße
Hallo sporc,

Zitat:Also im Speicher sind immer alle Kommastellen vorhanden, unabhängig von der Anzeige?
Ja.
Das gilt immer, also auch bei Konstanten im BD.
Oder auch bei Strings: hier kann man auch den Anzeigemodus anpassen…
Referenz-URLs