Problem mit Funktion "Werte prüfen und erzwingen"

(25.01.2012 09:07 )Roter Milan schrieb:  Test1:
Angenommen, der Sollwert ist 5,0. Wenn ich in das Istwertfeld 6 eingebe und Enter drücke und dann mit der Schaltfläche um 0,1 dekrementiere, erwarte ich das im Wertebereich 5,2 bis 4,8 die Funktion True ausgibt. Macht sie aber nicht. True wird von 5,1 bis 4,8 ausgegeben. 5,2 ist false und das verstehe ich nicht!

Bekanntes Problem, aber hier in der Praxis ohne Bedeutung. Die Gleitzahlen haben nur eine endliche Auflösung, und die Darstellung der Anzeige ist entsprechend dem gewählten Anzeigeformat gerundet.
Wenn ich bei dir 15 Kommastellen einstelle, dann sieht man es:

   

Edit: Marc hat die Frage eher richtig beantwortet. Ich würde nur darin widersprechen, dass da irgendein Handlungbedarf besteht. Gut, die wirklichen Toleranzgrenzen liegen also nicht bei +- 0.2, sondern sind, sagen wir mal, um ein hundert Millionstel fehlerhaft. Sollte man wirklich dagegen etwas unternehmen, nur um der Anzeigenoptik Genüge zu tun?