PID-Regler fühlt sich unterbeschäftigt

(02.10.2013 14:39 )THL schrieb:  Simpel gesagt, werden Zahlen im Computer immer als Summe von 2er-Potenzen gespeichert, wodurch sich dezimale Nachkommastellen sehr oft nur näherungsweise darstellen lassen. Mit anderen Worten: 0.07 ist intern eigentlich so etwas ähnliches wie 0.0700000000014 und wird nur gerundet als 0.07 geschrieben. Wenn du exakte Vergleiche willst, solltest du mit Ganzzahlen (Integern) arbeiten, ansonsten musst du Fehlerschwellen berücksichtigen und z.B. aus dem Vergleich 0.07-0.01=0.06 ein abs(0.07-0.01-0.06)<1E-10 oder ähnliches machen.

in der Palette NUMERISCH gibt es die Konstante "Maschinengenauigkeit", die dir eben diese Unschärfe ausgibt, die es bei Vergleichen zu berücksichtigen gilt.


Gruß, Marko