Kehrwertergebnis im Anzeigeelement fehlerhaft

Hallo Labtron,

Zitat:bei der Berechnung eines Werts mit der Kehrwertfunktion ist mir aufgefallen, wenn man die Darstellung des Anzeigeelements bei 14 Nachkommastellen einstellt, kommt dabei keine Runde Zahl wie zu erwarten raus. Ist das ein Darstellungsfehler?

Nein, das ist kein Darstellungsfehler. Das ist wirklich der berechnete Wert - und der ist sogar korrekt berechnet!

Du bist gerade in die Falle getappt, die das Rechnen mit Float-Zahlen mitbringt. Diese sind nur "ungefähr", insbesondere bei Eingangswerten wie deinen.
Stell doch mal die Anzeige deines Inputs auf 14-17 Stellen um, dann wirst du sehen, dass du NICHT den Kehrwert von 0.0002=1/5000 berechnest…