+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt (/Thread-Moeglichkeit-zur-Abfrage-ob-ein-DBL-Ausgang-eine-Kommazahl-enthaelt)
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - D3nnis.C - 02.12.2007 13:52
Hallo,
weiss jemand ob es eine Moeglichkeit gibt, abzufragen ob ein double Precision Ausgang eine Zahl nach dem Komma enthaelt.
Dennis
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - eg - 02.12.2007 14:59
Die hat es immer!
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - D3nnis.C - 02.12.2007 22:12
' schrieb:Die hat es immer!
Ich meinte ob man abfragen kann ob die Zahl nach dem Komma ungleich Null ist.
Ich wil eine Fehlermeldung raus geben wenn ich z.B. 10,5 habe.
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - D3nnis.C - 02.12.2007 22:26
ich hab schon eine Loesung, aber weiss nciht ob das die beste ist.
Noch ne frage wie macht ihr das, mit den screenshots die dann in den Antworten stehen?
Dennis
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - eg - 02.12.2007 23:14
' schrieb:ich hab schon eine Loesung, aber weiss nciht ob das die beste ist.Ich hätte es mit Quotient & Remainder aus der Numeric Palette versucht.
' schrieb:Noch ne frage wie macht ihr das, mit den screenshots die dann in den Antworten stehen?Ein Tutorial dazu hier:
Dennis
http://www.LabVIEWforum.de/index.php?showtopic=5907
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - cb - 03.12.2007 08:13
ich würd das SO machen:
[attachment=10125]
in dem Beispiel kann man auch noch angeben ab welcher Nachkommastelle geprüft werden soll ...
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - rolfk - 03.12.2007 11:51
' schrieb:ich würd das SO machen:
[attachment=37121:foo.png]
in dem Beispiel kann man auch noch angeben ab welcher Nachkommastelle geprüft werden soll ...
Und bei einer double ist das besser kleiner als 15. Eine double hat nämlich nur ungefähr 16 signifikante dezimale Digits. Der Rest ist nur noch Rauschen durch die begrenzte Representationsmöglichkeit von Floatingpointzahlen in Computern.
Rolf Kalbermatter
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - drOetker - 01.09.2008 13:12
Kleine Anmerkung von mir:
Beim Prüfen auf Nachkommastellen ist mir aufgefallen, dass beim Einstellen der zu prüfenden Zahl über eine Numeric Control, also nicht duch Eingabe auf der Tastatur offensichtlich auch Rauschen entsteht. Das führt dann leider dazu, dass der Vergleich oft nicht stimmt.
Gelöst habe ich das Problem dadurch, dass ich die Zahl (wie oben gezeigt) zuerst verzweige, einen Zweig gleich auf Integer runde, dann beide Zweige mit einer Zahl (abhängig von dem verwendeten Zahlenformat) multipliziere, beide Zweige runde und dann vergleiche.
Zu viel Text, seht selbst.
Grüße
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt - Lucki - 01.09.2008 13:44
Da mir keiner der bisher gemachten Vorschläge so richtig gefällt, komme ich nicht umhin, mein Senf hier auch noch dazuzugeben:
[attachment=14274]