Hallo Gerd,
ich glaub ich habs raus! Ich habe nochmal ins Manual vom Druckmessgerät (
http://www.pascaltechnologies.com/files%...Manual.PDF ) geschaut, wenn man strikt den Weg auf B-5 geht, kann man den Wert, der im Programm ankommt, in den am Gerät angezeigten Wert umwandeln!
Mein Problem ist nur, das in LabView umzusetzen. Dafür müsste ich nämlich Vor- und Nachkommastelle gesondert behandeln:
Bsp: Programmwert=2,039489 (Rohwert, nicht entlogarithmiert)
Der Druck ist dann: p=10^(2-11) * (0,039489+0,1)/0,11 * 1,3322 mbar
Das sieht jetzt Deiner Gleichung ähnlich:
Zitat: Um deinen Druck in mbar auszurechnen, würde ich die Formel p = 10^U * 1e-11 * 1.33322368 (U in Volt, p in mbar) verwenden…
Ist aber eben doch nicht dasselbe.
Geht sowas irgendwie über ein Array, dass man den Wert quasi in Vor- und Nachkommastelle aufsplittet, dann bearbeitet und dann wieder zusammenfügt?
Bester Gruß, Wiltrud