LabVIEWForum.de
gelesene txt in Nachkomma stellen ungenau - Druckversion

+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: gelesene txt in Nachkomma stellen ungenau (/Thread-gelesene-txt-in-Nachkomma-stellen-ungenau)

Seiten: 1 2


gelesene txt in Nachkomma stellen ungenau - Lorien - 27.06.2006 21:10

Juhhuuu ...Big Grin

Das war der entscheidende Tip.
Ich habe in den vi (read and write) die SGL zu DBL umgewandelt und nun rechnet er wahrscheinlich sogar bis zur 15. Stelle genau.

Danke. Danke. Danke.