Auswertung von Oszidaten

(03.08.2012 07:26 )heinrich schrieb:  

(02.08.2012 16:07 )GerdW schrieb:  Könnte es sein, dass du einfach nicht die Arrayanzeige entsprechend konfiguriert hast?

Will ich nicht ausschließen.

Habe die %9f auf %12f und %16f geändert, hat aber nichts ausgemacht.

Intern arbeitet es schon mit der gewünschten Genauigkeit. Allein an der Anzeige hapert es wohl. Was Gerd gemeint hat, ist ob du die Eigenschaft deines Anzeigelementes angepasst hast. (Rechtsklick -> Properties -> Display format - und dort dann halt 13 statt 6 bei 'significant digits' eingeben)