INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Keithley 2636/ gerundete Stromwerte



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

12.06.2012, 15:20 (Dieser Beitrag wurde zuletzt bearbeitet: 12.06.2012 15:22 von GerdW.)
Beitrag #5

GerdW Offline
______________
LVF-Team

Beiträge: 17.467
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Keithley 2636/ gerundete Stromwerte
Hallo,

noch ein Einwurf:
Es soll schon mal vorgekommen sein, dass Gerätetreiber nicht auf das Dezimaltrennzeichen des OS achten und deshalb Probleme in D bekommen. Einfach mal im entsprechenden VI des Keithley-Treibers nach der Umwandlung String-zu-Zahl suchen und dort prüfen...

Aber abgesehen davon:
Zitat:anstelle von exakten werten rundet das programm für 3-4 Volt alle ströme auf 0.272E-3A und ab 4 Volt auf 0.01A Gerundet werden
(Etwas bessere Grammatik hätte dem Verständnis nicht geschadet...)
Es scheinen ja trotzdem floats anzukommen, was nicht für das o.a. Szenario spricht. Also vielleicht doch eher ein Messgeräte-Problem?

Aber bisher mutmaßen wir nur auf Grundlage eines Bildes eines BD, ohne ein echtes VI zu begutachten oder aussagekräftige Bilder mit aktuellen Messwerten zu sehen... Glas1

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
RE: Keithley 2636/ gerundete Stromwerte - GerdW - 12.06.2012 15:20

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Gerundete Zahlen und Nachkommastellen exxpkeb 23 16.434 27.03.2007 13:58
Letzter Beitrag: exxpkeb

Gehe zu: