LabVIEWForum.de

LV- Version: 2010 SP1 (10.0.1)
Nach langem suchen warum mein VI nicht funktioniert bin ich auf einen Bug gestoßen.

Das VI soll nur einen DBL überprüfen ob dieser im "gültigen Byte-Bereich" liegt.
Also wenn die Zahl z.B.

1,0 -> durchreichen
1,1 -> durchreichen
...
1,7 -> durchreichen
1,8 -> auf nächste Ganzahl (2,0) runden

Das funktionierte auch beim testen usw.

Nun in meiner Applikation bin ich zur Adresse 1310,8 (also 1311,0) gekommen. Hier hat mir die Funktion trotzdem 1310,8 ausgegeben.
Als ich mir das ganze mit der "Highlight-Funct." angeschaut habe musste ich feststellen das 0,8>=0,8 bei der funktion "false" ausgibt.

Habe das ganze mit "Im Bereich" gelöst.
Anbei mein VI

Bekannte Sache: Bei Realzahlen gibt es kein "gleich", sondern meist nur ein "gleich bis auf soundsoviele Stellen nach dem Komma". Stelle mal bei Deinen Zahlen ganz viele Dezimalstellen dar, dann siehst Du die Unterschiede. Maschinen sind eben auch nur Menschen. Ein Bug ist das nicht.