LabVIEWForum.de

Hallo alle miteinander,

ich hab eine eigentlich recht simple Aufgabe, ich habe eine Datei (wertzuordnung.csv) in der jedem wert der ersten Spalte einem WErt in der 2. Spalte zugeordnet ist, diese Tabelle lese ich ein und möchte nun zu einem Messwert (Eingabe X-Wert im VI) einen Wert (Ausgabe y-wert im VI) zuordnen, hierzu durchsuche ich die erste Spalte nach dem Messwert, lasse mittels des Indes den zugehörigen Wert aus der 2. Spalte ausgeben. soweit so simpel, nur es funktioniert nciht ganz wie es soll, zwischendrin werden werte einfach mit Index -1 versehen, obwohl sie garantiert in der Tabelle zu finden sind.

so tritt der Fehler z.b. bei
3,3
7,7-17,6
22,9
und weiteren Bereichen auf, es funktioniert mal bei werten, mal nicht. woran kann das liegen?

Danke für Hilfe.



[attachment=13124]
[attachment=13125]

x.x != x.x

http://en.wikipedia.org/wiki/Floating_point

Hier eine KB mit einer LLB und code damit du nicht in dieses problem laeufts: http://digital.ni.com/public.nsf/allkb/B01...61?OpenDocument

Falls du dir den wiki eintrag nicht durchliest, hier die kurze version davon:
das passiert mit jeder programmiersprache und jedem rechner...

Im Anhang findest auch noch ein programm mit dem du arbeiten kannst...
(Achtung: beruecksichtigt nicht 0!, hierfuer muesstest einen eigenen Case einfuehren)

Dankeschön, darauf muss man erstmal kommen, wenn man eine definierte Zahl vorgibt, dass der Rechner diese mit noch mehr nachkommastellen intern verfälscht ...

Ich habs inzwischen mit der Schwellwertfunktion realisiert, geht auch

aber schon ne fiese Falle.

Ich werds nächste mal daran denken