INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Große Zahlen in Binär Datei



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

06.05.2007, 17:49
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Große Zahlen in Binär Datei
Hallo, Fenix,

schau dir mal das BD deines Beispiels an, wenn du die Icon-Darstellung deiner Variablen ausschaltest:
   
Dann siehst du, dass die Genauigkeit deiner Eingangsvariablen DBL ist (nicht SGL). Die Genauigkeit liegt bei SGL float bei ca. 6-7 Stellen, d.h deine Eingabe mit 123456,123456 lässt sich im SGL-Format nicht genau genug darstellen. Wenn du die Formate deiner Eingabe-Variablen auf SGL umstellst, siehst du, dass LV bei der Speicherung und beim Lesen keine Probleme macht.

Alternative: Du bleibst bei DBL und speicherst diese binär ab.

MfG, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Große Zahlen in Binär Datei - fenix - 06.05.2007, 11:44
Große Zahlen in Binär Datei - jg - 06.05.2007 17:49

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Binär .dat Datei einlesen - werte werden nicht korrekt in labview angezeigt LisaPi 2 5.759 03.05.2014 08:51
Letzter Beitrag: jg
  Zeilen einer .txt Datei zählen Alexa 10 15.223 18.08.2012 09:46
Letzter Beitrag: Y-P
  Max. Größe einer Konfig-Datei (INI) 64 KB? Matze 6 6.376 16.06.2012 11:58
Letzter Beitrag: dimitri84
  Binär lesen und schreiben Lex 3 5.551 24.02.2009 11:32
Letzter Beitrag: rolfk
  Array Binär speichern & laden stud_lab 19 18.646 11.09.2008 15:23
Letzter Beitrag: stud_lab
  Zahlen mit Punkt als Komma aus Datei lesen resistor 3 5.624 10.09.2007 17:23
Letzter Beitrag: resistor

Gehe zu: