Zahlengenauigkeit ändern

Hallo an Alle,

ich hab ein Problem. Es sieht ganz einfach aus, aber irgendwie bin ich gerad zu Dumm dafür.
Ich lese die Messdaten anhand DAQ (programmiert mit Task). Die Analoge Eingänge (Spannungen) haben 6 Stellige Genauigkeit ( Z.b. 0,5789312 usw.) ich will aber irgendwie die Daten konvergieren einfach mit 2 Kommastellen, damit ich sie weiterverarbeiten kann. Eine M-serie karte mit AI Eingang benutze ich in diesem Fall.

Gibts so eine Funktion in LV? will die daten gar nicht erst speichern oder anzeigen sondern direkt die Dynamic Data umwandeln.
Im Bsp. oben sollte dann so aussehen 0,57. I will direkt mit dem wert weiterarbeiten im Echtzeit.

Viele Grüße und danke im Voraus.

   

' schrieb:...irgendwie die Daten konvergieren einfach mit 2 Kommastellen, damit ich sie weiterverarbeiten kann.

Zu was sollte das gut sein? Ich würde mir die Genauigkeit so lange wie möglich erhalten...

Dimitri hat auf Deine Frage die richtige Antwort gegeben. Das Problem ist nur, ob Du die Frage wirklich so wie formuliert gemeint hast. Meist werden zu viele Nachkommastellen in einer Anzeige als störend empfunden, und es geht bei solchen Fragen in Wirklichkeit um die Änderung der Anzeigeeigenschaften bezüglich der Anzahl der angezeigten Stellen und nicht um eine real erwünschte Veränderung der Zahl selbst.
Edit: Schließe mich der Frage von Achim: "Wozu soll das gut sein?" an.

' schrieb:Dimitri hat auf Deine Frage die richtige Antwort gegeben. Das Problem ist nur, ob Du die Frage wirklich so wie formuliert gemeint hast. Meist werden zu viele Nachkommastellen in einer Anzeige als störend empfunden, und es geht bei solchen Fragen in Wirklichkeit um die Änderung der Anzeigeeigenschaften bezüglich der Anzahl der angezeigten Stellen und nicht um eine real erwünschte Veränderung der Zahl selbst.

Nö, ich glaub der meinte schon das was da steht.

' schrieb:... will die daten gar nicht erst speichern oder anzeigen sondern direkt die Dynamic Data umwandeln.

Ich find's immer herrlich wie der Prince meine Beiträge konsequent unkommentiert belässt. Da macht das Antworten doppelt Spaß

servus an alle...

erstmal danke an dimitri84 für die schnelle Antwort & vorgeschlagene Lösung. Ich habe natürlich den Beitrag nicht vergessen. aber ich war so abgeleht & beschäftigt dass ich total vergessen habe, dass ich die frage hier erstellt hab!!! ist jo wirklich so . und heute schaue i hier rein, & gleich so eine Diskussion.
Sorry dass es so rübergekommen ist.

Es geht ja in diesem Fall nicht um eine reine genauigkeitsanzeige. Es ist natürlich gut wenn die genauigkeit gross ist, aber in diesem Senario nicht.

Die Daten werden anhand einer Kennlinie bearbeitet. Die ist eine scharfe Kennlinie mit grossen Steigung. Problem ist dabei dass wegen 6 stellige genauigkeit nach der Bearbeitung ein grosser Messfehler auftaucht. daher wollte ich von Anfang an die kommastellen weglassen.

Ich hoffe, ich konnte das Problem verständlich rüberbrigen! Wenn nicht kann ich ein Bsp Data hier posten dann wirds ja auf jeden Fall klar was ich meine. Ich werde die Lösung von dir dimitri84 gleich Morgen Probieren. das sollte die gewünschte Effekt dann darstellen.

Beste Grüße,
Prince..

So hier habe ich was zusammen gebastelt..Ich hoffe ist es jetzt klar

' schrieb:Die Daten werden anhand einer Kennlinie bearbeitet. Die ist eine scharfe Kennlinie mit grossen Steigung. Problem ist dabei dass wegen 6 stellige genauigkeit nach der Bearbeitung ein grosser Messfehler auftaucht. daher wollte ich von Anfang an die kommastellen weglassen.

Erzähl' mal was das für Messwerte sind und wie viele du davon hast. (Geht es zufällig noch um Vibration?) Ich hab' da so meine Zweifel, ob du da an der richtigen Stelle deiner Messkette zu manipulieren versuchst.



Gruß dimitri

' schrieb:Erzähl' mal was das für Messwerte sind und wie viele du davon hast. (Geht es zufällig noch um Vibration?) Ich hab' da so meine Zweifel, ob du da an der richtigen Stelle deiner Messkette zu manipulieren versuchst.
Gruß dimitri

Es geht ja um einen Drucksensor.
ich hab hier im Bild ein Satz von Daten eingefügt. Beim X=0,50018 z.b. ein P vom 0,086.. was eigentlich eine 0 ist. (nach der Anzeigegenauigkeit um stellung). aber bei einer kleinen X änderung z.b. letzte Data komme ich auf falsches wert 0,3....

Wenn ich die daten von Anfang an, 2 stellig oder einstellig nach der komma habe, dann wird ja die umrechnung mit der kennlinie auch passen! das ist genau das problem. bei einem X=0.5 will ich auf der anzeig überall 0 haben! nicht diese komische negative Werte! Die Kennlinie habe ich auf auf FP.

was sagst du dazu oder en Vorschlag ?
wobei ich will nur die Messwertegenauigkeit ändern. D.h. beim Dynamik Data sollte t_0 und dt unverändert bleiben. Nur X werte.

danke & Grüße,

P.S. Sorry für die schlechte Formulierung!

Habe ich das richtig verstanden: Du misst (genaue!) Werte, berechnest mit ihnen was und weil Dir nun das Ergebnis nicht gefällt, willst Du die Werte so hindrehen (ungenauer machen), dass Dein Ergebnis passt?

Gruß Markus