Keithley 2636/ gerundete Stromwerte

Hallo,
ich versuche gerade eine U-I Kennlinie mit dem Keithley 2636 aufzunehmen, es klappt auch alles wunderbar und der graph trägt auch die werte die in die Tabelle geschrieben werden auf,
Leider sind die werte so stark gerundet, dass sie absolut unbrauchbar sind.
Ich habe mit verschiedenen Probes die Fehlerquelle so weit runtergebrochen, dass schon im output des messung, ein völlig falscher wert ankommt,
die werte sind gerundet, dass heißt anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden, anstatt eine schöne U-I diodenkennlinie aufzutragen.

Hat jemand eine Idee wo hier der Schlingel der die Werte rundet stecken könnte?

Mit freundlichen Grüßen

Tobi

Dein Screenshot ist für die Frage wenig aussagekräftig, da darin noch alles als String ist.
Zeig doch mal die Stellen wo du mit numerischen Daten hantierst.

(Mein Tipp: Der String wird mitm falschen Dezimaltrenner geparst)

Also ich hab direkt vor dem output mit einer probe schon den falschen wert der sich durch alle oberen ebenen durch hält. Wo soll ich denn tiefer reingehen um zu gucken was passiert?

Wenn du keinerlei Berechnungen/Wandlungen mit den Daten des Keithleys machst und du trotzdem unsinnige Werte bekommst, würde ich auf ein Problem des Keithleys tippen. Irgendwas falsch eingestellt oder gar der Gerät defekt?!?

Hallo,

noch ein Einwurf:
Es soll schon mal vorgekommen sein, dass Gerätetreiber nicht auf das Dezimaltrennzeichen des OS achten und deshalb Probleme in D bekommen. Einfach mal im entsprechenden VI des Keithley-Treibers nach der Umwandlung String-zu-Zahl suchen und dort prüfen...

Aber abgesehen davon:

Zitat:anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden

(Etwas bessere Grammatik hätte dem Verständnis nicht geschadet...)
Es scheinen ja trotzdem floats anzukommen, was nicht für das o.a. Szenario spricht. Also vielleicht doch eher ein Messgeräte-Problem?

Aber bisher mutmaßen wir nur auf Grundlage eines Bildes eines BD, ohne ein echtes VI zu begutachten oder aussagekräftige Bilder mit aktuellen Messwerten zu sehen...

Hi,

benutzt du die Originaltreiber von KEITHLEY für dein 2636A? Falls ja stellt sich die nächste Frage ob dein System mit Punkt oder Komma arbeitet. Falls du mit Komma arbeitest liegt hier das Problem.

Du setzt deine Spannung nur in 1V schritten wodurch es zu den scheinbaren Rundungen kommt.

Lösung: einfach in den VIs bei den Befehlen ein "%." vorne anhängen.

Gruß Ome

Anzeige

Hallo,

nimm besser ein "%.;"

Danke genau das wars, punkt komma vertauschung

vielen dank

Gruß Tobi