LabVIEWForum.de

Heute jemandem LV beigebracht, und auf einen kuriosen (vermutlich Nullteiler/Rundung) Zustand gestoßen. Sine(Pi)=1.22.. Konsistent auf 3 Rechnern mit unterschiedlichen LV-Versionen.
Kann das jemand nachvollziehen?
Grüße,
Birgit
[attachment=41678]

Hallo Birgit,

wenn du schon fragst, dann doch bitte mit vollständiger Angabe des Ergebnisses: "1.22465E-16".
Das ist doch ziemlich nah am gewünschten Ergebnis und (vor allen Dingen) kleiner (!) als die Epsilon-Konstante aus der Numerikpalette. Und die hat eine Bedeutung...

Danke.
Das numerische Control war zu klein geraten und ich sah das nicht. Hätte mich gewundert.

(26.09.2012 17:05 )b.p schrieb: [ -> ]Heute jemandem LV beigebracht, [...]

Respekt!