Tabellenstring nach Array

Hi zusammen,

es werden eingelesene Werte mittels der "Tabellenstring nach Array" Funktion in ein Array gespeichert
um die Werte anschließend effektiv verarbeiten zu können.
Leider werden dabei immer Stellen von meinen Werten abgeschnitten!
Es scheint so, dass nur 6 Stellen plus ein Komma in das Array passen...
Aus einer 120,0666666 wird z.B. eine 120,067 usw. (siehe Anhang)

Weiß jemand wie ich mehr Stellen mit dieser Funktion in ein Array packen kann?!?

Das ist deswegen wichtig, da z.B. auch Spanungen im nV-Bereich als absoluter Wert 0,000000001
verarbeitet werden sollen!


Viele Grüße,
Sebby



  Einlesen.vi (Größe: 10,81 KB / Downloads: 414)


  mess.txt (Größe: 127 Bytes / Downloads: 393)

Anzeige

:gähn:

Rechtsklick auf Numeric-Control innerhalb des Arrays -> Display Format -> und dann die Anzeige-Formatierung umstellen!

Intern ist die Zahl in der möglichen Auflösung, die das verwendete Zahlenformat bietet, gespeichert, egal, was da angezeigt wird.

Gruß, Jens