LabVIEWForum.de

Hallo Zusammen,

ich habe ein Problem bei meinem Datenverarbeitungsprogramm.
Ich habe Messdaten mit 2055 Spalten und n-Zeilen. Diese enthalten unter anderem auch xy Koordinaten, welche ich von der entsprechenden Datei auslese und dann mit einem Teil der anderen Daten dreidimensional in einem 3d Scatter darstellen. Jede Zeile wiederum entspricht einem Spektrum. Diese Spektren möchte ich definiert auslesen und grafisch darstellen.
Im 3d Scatter werden die Daten so eingelesen, dass für jeden Punkt eine Messung/Spektrum steht. Also möchte ich die Daten im Scatter mittels Curser suchen und dann automatisch das Spektrum zum markierten Messpunkt in einem anderen Diagramm anzeigen.

Mittels Property Node lese ich die Curserposition aus und suche dann in meinen Daten nach der richtigen Zeile. Das Funktioniert auch eigentlich, aber eben nicht immer. Der x-Wert, welchen ich auslese, wird immer mal wieder verändert ausgelesen und ich verstehe nicht wieso.
Der y und z Wert des Cursors wird immer richtig ausgelesen nur der xWert nimmt andere Werte an und zwar an der letzen Stelle. Er ist 8 stellen lang und ohne Komma. Als Beispiel 39739861 wird zu 39739860.
Da ich die Daten aus einer Datei auslese und es in den meisten Fällen funktioniert gehe ich mal davon aus, dass das mein Programm funktioniert. Auch tritt der Fehler nicht statisch immer an den selben Punkten auf.
Habt Ihr vielleicht eine Idee wo der Fehler sein könnte bzw. wo ich ihn suchen soll?

Mfg.
KaffeKarl

Mal schauen, ob meine Glaskugel funktioniert.

Du verwendest als Datentyp "float" bzw. "single precision". Das langt bei einer Zahl wie z.B. 39739861 nicht aus, die wird zwecks fehlender Genauigkeit bei Fließkommazahlen dann zu 39739860.

Gruß, Jens

Hallo Jens,

ich muss sagen du hast eine gute Glaskugel. Danke!
Der Fehler wird durch den Plot Helper des 3d Scatter selbst erzeugt. Ich lade mal ein kleines Beispiel mit den verwendeten Funktionen hoch.

Nun muss ich wohl den Plot Helper modifizieren bzw. ersetzen, damit der Fehler verschwindet bzw. ich den richtigen Datentyp erhalte.
Wie soll ich da am besten vorgehen?
Den Plot Helper habe ich mir nun angesehen und es scheint mir als müsste ich einfach nur in den Klassen die Datentypen ändern. Diese sind allerdings geschlossen kann man da irgendwie drauf zugreifen?
Die Alternative wäre den Plot Helper zu ersetzen?

Grüße


[attachment=43632]

Also ich komme da auf keinen grünen Zweig bei dem Problem. Hat den niemand eine Idee wie ich entweder den Plot Helper manipulieren bzw. ersetzen kann um den Datentyp zu ändern?

Grüße