+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Fract/Exp String To Number hat immer nur 6 Stellen. (/Thread-Fract-Exp-String-To-Number-hat-immer-nur-6-Stellen)
Fract/Exp String To Number hat immer nur 6 Stellen. - Y-P - 23.04.2008 14:48
Hallo,
bei Fract/Exp String To Number habe ich immer nur 6 Stellen nach der Umwandlung (vgl. VI).
Ich sollte aber genauere Werte haben. Wie kriege ich das denn hin?
Oder brauche ich dazu eine andere Funktion?
[attachment=12185]
Gruß Markus
Fract/Exp String To Number hat immer nur 6 Stellen. - Xaran - 23.04.2008 14:53
Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben
Fract/Exp String To Number hat immer nur 6 Stellen. - Y-P - 23.04.2008 15:18
Stimmt, das ist in diesem Fall richtig.
Dann such' ich mal weiter nach dem Problem (evtl. auch auf DB-Seite).
Hatte schon an der Funktion gezweifelt.
Gruß Markus
' schrieb:Ich glaub der Fehler war einfach nur in der Darstellung... Bei Format/Genauigkeit die Stellen erhöht, und schon war das Problem behoben