+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Labview rechnet falsch (/Thread-Labview-rechnet-falsch)
Seiten: 1 2
RE: Labview rechnet falsch - Lucki - 20.12.2012 19:05
(20.12.2012 17:22 )jg schrieb: So ein VI gibt es in OpenG
Interessant, danke für den Hinweis. Inzwischen habe ich auf die Schnelle ein kleines VI gemacht:
[attachment=42783]
RE: Labview rechnet falsch - Widar - 21.12.2012 10:03
Wieso funktioniert es so nicht?
RE: Labview rechnet falsch - Lucki - 21.12.2012 10:47
Das liegt an der kruden Abbruchlogik in der While-Schleife und an den seltsamen Beispielwerten.
Das erzeugte Array hat die Werte 500, -100, -600, ... . Die Schleife bricht niemals ab, nach 2 sec steigt LV aus, weil das gesamte PC-Memory voll ist.
Bist Du wirklich nicht in der Lage, Dir bei einem so einfachen Problem selbst helfen?
Zum Schleifenabbruch sollte nicht auf Gleichheit getestet werden, sondern auf < oder >, so dass der Abbruch immer garantiert ist.
RE: Labview rechnet falsch - jg - 21.12.2012 10:48
Weil beim mehrfachen Aufaddieren/Subtrahieren mit Gleitkommazahlen durch Folge"fehler" schnell mehr die Maschinengenauigkeit zusammenkommt.
Außerdem bezieht sich die Maschinengenauigkeit auf einen Wert von 1. Beim Rechnen mit größeren Zahlen ist Epsilon ein Vielfaches davon.
Ich verweise nochmals auf Wikipedia.
Gruß, Jens