Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt
Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt
' schrieb:ich würd das SO machen:
[attachment=37121:foo.png]
in dem Beispiel kann man auch noch angeben ab welcher Nachkommastelle geprüft werden soll ...
Und bei einer double ist das besser kleiner als 15. Eine double hat nämlich nur ungefähr 16 signifikante dezimale Digits. Der Rest ist nur noch Rauschen durch die begrenzte Representationsmöglichkeit von Floatingpointzahlen in Computern.
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt
Kleine Anmerkung von mir:
Beim Prüfen auf Nachkommastellen ist mir aufgefallen, dass beim Einstellen der zu prüfenden Zahl über eine Numeric Control, also nicht duch Eingabe auf der Tastatur offensichtlich auch Rauschen entsteht. Das führt dann leider dazu, dass der Vergleich oft nicht stimmt.
Gelöst habe ich das Problem dadurch, dass ich die Zahl (wie oben gezeigt) zuerst verzweige, einen Zweig gleich auf Integer runde, dann beide Zweige mit einer Zahl (abhängig von dem verwendeten Zahlenformat) multipliziere, beide Zweige runde und dann vergleiche.
/
Moeglichkeit zur Abfrage ob ein DBL-Ausgang eine Kommazahl enthaelt
