INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Ohne Nachkomma stellen rechnen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

03.08.2006, 14:28
Beitrag #1

Brummy Offline
LVF-Grünschnabel
*


Beiträge: 11
Registriert seit: Jun 2006

6.1
2006
kA


Deutschland
Ohne Nachkomma stellen rechnen
Hi,
bin Anfänger und habe da ein problem mit einem Formelknoten. und zwar möchte ich eine Fixe Zahl z.B 7 durch einer variable zahl teilen. die variable zahl hängt von einem sensor ab, und der arbeitet manchmal mit zahlen im 10000-tel bereich. und wenn ich z.b dann die zahl 7 durch 0,000005 teile bekomme ich einn riesigen wert raus. kann man irgendiwe diese zahl die der senor rausgibt beschränken im formelknoten?
d.h wenn der sensor mir jetzt einen wert von 0,00006 liefert das der formelknoten mit 0,00 rechnen und als ergebnis 0 ausspuckt? das heißt ich möchte maximal die zweite stelle nach dem komma haben und nicht die 1000 te.
Gruß
Brummy

Besser gesagt ich möchte mit der zweiten stelle nach dem komma rechnen und nicht mit der fünften stelle nach dem komma, sonst werden die werte bei bruch rechnung zu groß.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
03.08.2006, 14:34
Beitrag #2

diplNisse Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 97
Registriert seit: Apr 2006

2010
2006
EN


Deutschland
Ohne Nachkomma stellen rechnen
Hallo!

Kleiner mathematischer Excurs:

7 durch 0 ist nicht 0, sondern +Inf.

[Excurs ende]
Durch abrunden wirst du daran nichts ändern können.
Du könnstest höchtens sagen, dass die Division bei Zahlen, die kleiner als z.B. 0,00004 sind, nicht durchgeführt wird.

Nisse
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
03.08.2006, 15:20
Beitrag #3

Kvasir Offline
LVF-Freak
****


Beiträge: 642
Registriert seit: May 2006

10
2004
DE_EN

0000
Oesterreich
Ohne Nachkomma stellen rechnen
Nimm die Zahl, die dein Sensor auspuckt. Multiplizier sie mit 100 (für 2 Dezimalstellen, 1000 für 3, ...), runde das Ergebnis ab und dividier dann wieder durch 100.
Damit klappt das wunderbar.

Und Nisse hat natürlich recht. Den Fall, dass du durch 0 dividierst musst du abfangen, da LabVIEW sonst "inf" ausgibt

A few weeks of developement and testing can save a WHOLE afternoon in the library!
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Rechnen mit dem Datum meb2323 2 3.769 11.11.2019 21:05
Letzter Beitrag: meb2323
Exclamation Wert mit 3 Stellen herrausfiltern Dany83 9 5.037 08.09.2015 21:14
Letzter Beitrag: Trinitatis
  Rechnen von Zeitdifferenzen che-salih 14 13.680 21.11.2013 15:27
Letzter Beitrag: Lucki
  mit txt.daten rechnen? nini0803 6 5.207 27.10.2011 10:14
Letzter Beitrag: dimitri84
  Numerisches Anzeigeelement von 2 Stellen im code beschreiben Mrindfleisch 2 4.551 17.02.2011 15:54
Letzter Beitrag: Mrindfleisch
  Eigene Marker an definierten Stellen eines Schiebereglers? Sascha_ 2 4.145 17.01.2011 09:27
Letzter Beitrag: Sascha_

Gehe zu: