Datengenauigkeit

Hallo zusammen,

ich habe gerade mal sowohl in LV 8.0, als auch in LV2011 die abgebildete Rechnung ausführen lassen, bei welcher ich mir den Unterschied im Resultat nicht erklären kann.
In der oberen Variante sollte eigentlich "0" und nicht E-19 rauskommen und in der unteren Variante sollte, wenn schon in der oberen E-19 rauskommt, doch auch irgendsowas krummes rauskommen. Der Unterschied liegt ja lediglich im anderen Offset.

Alle Konstanten sind übrigens vom Typ erweiterte Genauigkeit.

Nicht, dass diese E-19 kriegsentscheidend wären - ich verstehe es nur nicht!

Hat jemand eine Idee dazu?


Gruß, Marko

"Standard-Ergebnis" bei Gleitkomma-Arithmetik. Da nützt dir auch "Extended" wenig. Und die Anzeige im Frontpanel ist im Normalfall auf signifikante 6 Stellen begrenzt.

Gruß, Jens

(06.08.2013 11:37 )jg schrieb:  "Standard-Ergebnis" bei Gleitkomma-Arithmetik. Da nützt dir auch "Extended" wenig. Und die Anzeige im Frontpanel ist im Normalfall auf signifikante 6 Stellen begrenzt.

Gruß, Jens

Das mit der erweiterten Genauigkeit war nur ´ne Info, da man das nicht sehen kann im JPG.

Die Kommastellen kann ich auch mit 25 anzeigen (s. Bild). Da habe ich dann die beschriebenen Unterschiede. Im Quellcode besteht der Unterschied darin, dass einmal 0 und einmal 1 dazuaddiert wird. Es kommt aber nicht dasselbe heraus (abgesehen von diesem Offset)


Gruß, Marko

Hallo Marko,

was erwartest du für ein Ergebnis, wenn du 1e0 zu 6e-17 addierst - bei einer minimalen Auflösung (epsilon in der Numerics-Palette!) von 2e-16 (alle Werte als DBL)?
   

(06.08.2013 11:49 )GerdW schrieb:  ...bei einer minimalen Auflösung (epsilon in der Numerics-Palette!) von 2e-16 (alle Werte als DBL)?

...ja das kann ja keiner ahnen


Gruß, Marko

Diese lästige Anzeige sehr kleiner Werte anstatt Null kommt ja nur dadurch zustande, dass die Voreisntellung für das Anzeigeformat "Automatisch" ist. Da versucht Labview auf Teufel komm raus die sehr kleine Zahl, die nur ein Restfehler ist, darzustellen. Das läßt sich doch leicht ändern.
Bei mir ist übrigens der absolute Fehler mit und ohne Offset etwa geich groß und etwa gleich der Maschinengenauigkeit:

   

Anzeige