Labview rechnet falsch

(20.12.2012 17:22 )jg schrieb:  So ein VI gibt es in OpenG

Interessant, danke für den Hinweis. Inzwischen habe ich auf die Schnelle ein kleines VI gemacht:
   

Wieso funktioniert es so nicht?

Das liegt an der kruden Abbruchlogik in der While-Schleife und an den seltsamen Beispielwerten.

Das erzeugte Array hat die Werte 500, -100, -600, ... . Die Schleife bricht niemals ab, nach 2 sec steigt LV aus, weil das gesamte PC-Memory voll ist.

Bist Du wirklich nicht in der Lage, Dir bei einem so einfachen Problem selbst helfen?

Zum Schleifenabbruch sollte nicht auf Gleichheit getestet werden, sondern auf < oder >, so dass der Abbruch immer garantiert ist.

Weil beim mehrfachen Aufaddieren/Subtrahieren mit Gleitkommazahlen durch Folge"fehler" schnell mehr die Maschinengenauigkeit zusammenkommt.

Außerdem bezieht sich die Maschinengenauigkeit auf einen Wert von 1. Beim Rechnen mit größeren Zahlen ist Epsilon ein Vielfaches davon.

Ich verweise nochmals auf Wikipedia.

Gruß, Jens