Datengenauigkeit

Hallo zusammen,

ich habe gerade mal sowohl in LV 8.0, als auch in LV2011 die abgebildete Rechnung ausführen lassen, bei welcher ich mir den Unterschied im Resultat nicht erklären kann.
In der oberen Variante sollte eigentlich "0" und nicht E-19 rauskommen und in der unteren Variante sollte, wenn schon in der oberen E-19 rauskommt, doch auch irgendsowas krummes rauskommen. Der Unterschied liegt ja lediglich im anderen Offset.

Alle Konstanten sind übrigens vom Typ erweiterte Genauigkeit.

Nicht, dass diese E-19 kriegsentscheidend wären - ich verstehe es nur nicht!

Hat jemand eine Idee dazu?


Gruß, Marko

Anzeige