+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Ohne Nachkomma stellen rechnen (/Thread-Ohne-Nachkomma-stellen-rechnen)
Ohne Nachkomma stellen rechnen - Brummy - 03.08.2006 14:28
Hi,
bin Anfänger und habe da ein problem mit einem Formelknoten. und zwar möchte ich eine Fixe Zahl z.B 7 durch einer variable zahl teilen. die variable zahl hängt von einem sensor ab, und der arbeitet manchmal mit zahlen im 10000-tel bereich. und wenn ich z.b dann die zahl 7 durch 0,000005 teile bekomme ich einn riesigen wert raus. kann man irgendiwe diese zahl die der senor rausgibt beschränken im formelknoten?
d.h wenn der sensor mir jetzt einen wert von 0,00006 liefert das der formelknoten mit 0,00 rechnen und als ergebnis 0 ausspuckt? das heißt ich möchte maximal die zweite stelle nach dem komma haben und nicht die 1000 te.
Gruß
Brummy
Besser gesagt ich möchte mit der zweiten stelle nach dem komma rechnen und nicht mit der fünften stelle nach dem komma, sonst werden die werte bei bruch rechnung zu groß.
Ohne Nachkomma stellen rechnen - diplNisse - 03.08.2006 14:34
Hallo!
Kleiner mathematischer Excurs:
7 durch 0 ist nicht 0, sondern +Inf.
[Excurs ende]
Durch abrunden wirst du daran nichts ändern können.
Du könnstest höchtens sagen, dass die Division bei Zahlen, die kleiner als z.B. 0,00004 sind, nicht durchgeführt wird.
Nisse
Ohne Nachkomma stellen rechnen - Kvasir - 03.08.2006 15:20
Nimm die Zahl, die dein Sensor auspuckt. Multiplizier sie mit 100 (für 2 Dezimalstellen, 1000 für 3, ...), runde das Ergebnis ab und dividier dann wieder durch 100.
Damit klappt das wunderbar.
Und Nisse hat natürlich recht. Den Fall, dass du durch 0 dividierst musst du abfangen, da LabVIEW sonst "inf" ausgibt