Rechengenauigkeit

Hallo Zusammen,

ich habe ein kleines Programm geschrieben, welches die Anzahl der Nachkommastellen bestimmen soll.In dem Programm benutze ich die Funktion "Quotient & Reminder". Leider rundet die Funktion "Quotient & Reminder", so dass am Ende mein Programm nicht funktionert. Ich habe die unterschiedlichsten Dinge mit den Zahlenformaten versucht. Leider hilft das alles nicht. Vielleicht findet ja jemand meinen Denkfehler.

Danke

Anzeige

Dann beschäftige dich einmal mit Gleitkommazahlen. Das Problem ist, dass z.B. eine Zahl 0,1 weder im Format Single noch Double noch Extended exakt im Computer dargestellt werden kann.

Gruß, Jens

Hallo delf,

falls du Jens' Signatur nicht genug Beachtung zollen solltest, hast du jetzt direkten Zugriff auf meine…

Im NI-Forum gibt es eine (virtuelle) Phrasenschwein-Kasse für genau deine Frage: leider wissen viele Leute nicht um die Grenzen der Rechengenauigkeit eines handelsüblichen Computers…

Hallo Jens und Gerd,
ich bin mir des Themas bewusst. Sonst hätte ich es auch nicht gleich in die Betreff Zeile geschrieben. Ich werde das Themas also noch mal neu mit dem Betreff "Bestimmung von Nachkommastellen" aufmachen. Vielleicht bekommt ich dann sinnvolle Hilfe.

Danke an euch.

Hallo delf,

Zitat:ich bin mir des Themas bewusst. Sonst hätte ich es auch nicht gleich in die Betreff Zeile geschrieben.

Dein Thema lautet "Rechengenauigkeit" und ich kann dir versichern, dass Q&R so genau rechnet, wie es mit FloatingPoint-Zahlen eben möglich ist!

Zitat:Ich werde das Themas also noch mal neu mit dem Betreff "Bestimmung von Nachkommastellen" aufmachen.

Du musst jetzt keinen neuen Thread aufmachen - du solltest nur mal genau beschreiben, was du eigentlich erreichen willst!

Zitat:Vielleicht bekommt ich dann sinnvolle Hilfe.

Du bekommst immer genau das geliefert, wonach du fragst.
Und bisher hast du dich nur darüber beschwert, dass Q&R eben nach den Rechenregeln für FloatingPoint-Zahlen rechnet…

Es gibt für deine Frage IMHO keine richtige Antwort, s. hierzu das folgende Bsp:
   
Obwohl manuell 5,1 als Zahlenwert eingegeben wurde, hängt die Anzahl der (sichtbaren) Nachkommastellen von der Formatierung des Numeric-Elements ab. Und das hat jetzt nichts mir Quotient & Reminder zu tun. Es könnte ja auch sein, dass als Zahl wirklich 5,0999999 eingegeben wurde.

Gruß, Jens

Anzeige