Auswertung von Oszidaten

Zitat:Ich habe dort als Arraytyp ein 2 zweidimensionales EXT vorgegeben, weil die Zeitwerte vom Oszi mit 13 Nachkommastellen kommen

Von welch fernem Stern ist denn dieses Wunder-Oszilloskop heruntergefallen?
Digitale Oszilloskope haben meist nur ein Auflösung um die 10 Bit. Die Mantisse einer DBL-Zahl enthält 23 Bit, eine EXT-Zahl hat 52 Bit. Format EXT würde sich also nur lohnen, wenn der AD-Wandler im Oszi mehr als 23 Bit Auflösung hätte.