INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

gelesene txt in Nachkomma stellen ungenau



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.06.2006, 18:54
Beitrag #9

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
gelesene txt in Nachkomma stellen ungenau
<div align="left">Hallo, Lorien,

kann mir dein VI leider nicht anschauen, habe hier am Rechner kein LabVIEW.

Prinzipiell sollten bei Verwendung von mindestens "double" 10 Nachkommastellen korrekt dargestellt werden.

Problen sind dann wohl die Fuktionen "Read form Spreadsheet File" und "Write to Spreadsheet File". Diese benutzen (laut Online-Doku von NI) "single" float Zahlen. Genauigkeit dieser ca. 6-7 Nachkommastellen, also viel zu wenig für 10 Nachkommastellen (s. diese Link)

Da habe ich folgende Empfehlung: Schau dir doch mal den Code dieser VI's an, speichere sie unter einem neuen Namen und ändere die Stellen, wo "single" Variablen stehen auf "double".

LabVIEW kann natürlich beim Einlesen von Daten auch gleich Zahlen mit "double"-Genauigkeit einlesen (ist ja in der Regel erst mal ASCII-Text, der dann entsprechend gewandelt wird). Und wenn LabVIEW in einem der "höheren" VI's die entsprechenden Möglichkeiten nicht bietet, dann muß man es halt selber von Hand machen.

MfG
Jens</div>

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
gelesene txt in Nachkomma stellen ungenau - jg - 27.06.2006 18:54

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
Exclamation Wert mit 3 Stellen herrausfiltern Dany83 9 5.255 08.09.2015 21:14
Letzter Beitrag: Trinitatis
  Numerisches Anzeigeelement von 2 Stellen im code beschreiben Mrindfleisch 2 4.689 17.02.2011 15:54
Letzter Beitrag: Mrindfleisch
  Eigene Marker an definierten Stellen eines Schiebereglers? Sascha_ 2 4.309 17.01.2011 09:27
Letzter Beitrag: Sascha_
  Werte in bestimmten Stellen einer Tabelle eintragen Napoleon 11 10.735 13.01.2011 16:22
Letzter Beitrag: GerdW
  Werte in einem Array an definierten Stellen einfügen stud_lab 9 9.504 24.07.2008 14:26
Letzter Beitrag: Kvasir
  Fract/Exp String To Number hat immer nur 6 Stellen. Y-P 2 4.595 23.04.2008 15:18
Letzter Beitrag: Y-P

Gehe zu: