Große Zahlen in Binär Datei

Moin moin

Mal wieder eine Frage, an der ich jetzt schon einige Zeit hänge:

Ich möchte einen Zeitkanal aus Geschwindigkeitsgründen in eine SGL Binär Datei speichern. Da ich über einen langen Zeitraum (Woche) mit hoher Auflösung (500 kHz) messe, muss mein Zeitstempel mind 6 Vorkomma und 6 Nachkommastellen haben. Die Datentypen in LabVIEW machen das ohne Probleme. Nur die Binär Datei hat wohl ein Problem mit der Speicherung (vermutlich nur 4 Byte), was sich durch falsche Zahlen und fehlende Stellen bemerkbar macht.

Wie kann ich eine solche Zahl (bsp. 123456,123456) in so eine Binär Datei abspeichern und wieder auslesen. Oder muss ich die zerlegen oder anders formatieren. Gibt doch bestimmt einen Trick

Hab eine kleine Datei angehängt, mit dem man das Prob nachvollziehen kann.

Vielen Dank, Ein schönes WE

Fenix

Hallo, Fenix,

schau dir mal das BD deines Beispiels an, wenn du die Icon-Darstellung deiner Variablen ausschaltest:
   
Dann siehst du, dass die Genauigkeit deiner Eingangsvariablen DBL ist (nicht SGL). Die Genauigkeit liegt bei SGL float bei ca. 6-7 Stellen, d.h deine Eingabe mit 123456,123456 lässt sich im SGL-Format nicht genau genug darstellen. Wenn du die Formate deiner Eingabe-Variablen auf SGL umstellst, siehst du, dass LV bei der Speicherung und beim Lesen keine Probleme macht.

Alternative: Du bleibst bei DBL und speicherst diese binär ab.

MfG, Jens