Ich denke eher, er misst Werte, die schon aufgrund des Sensors und des Messaufbaus einer gewissen Messungenauigkeit unterliegen.
Daher kann man nicht sagen, dass er genaue Werte misst.
Du weisst doch:
Wer misst, misst Mist.
' schrieb:Habe ich das richtig verstanden: Du misst (genaue!) Werte, berechnest mit ihnen was und weil Dir nun das Ergebnis nicht gefällt, willst Du die Werte so hindrehen (ungenauer machen), dass Dein Ergebnis passt? 
Gruß Markus
lol- Nein das hast du falsch verstanden. In diesem Fall für die Darstellung braucht ich diese Genauigkeit nicht, da es sich um einen Drucksensor handelt, wird das Wert Ohne Kommastellen reichen.
Zweitens , da es um AI Eingänge geht, wo viele Sensoren auf einen MessModul gemessen werden, wird ja eine gewisse kleine Störung/Schwankung am Eingang vorhanden sein. und genau das macht sich bei einer Messung mit so einer Kennlinie Bemekbar!
Es gibt natürlich viele Wege das loszuwerden, mittelwerte Bilden usw..
Grüße,