INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Datengenauigkeit



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

06.08.2013, 12:43
Beitrag #6

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
RE: Datengenauigkeit
Diese lästige Anzeige sehr kleiner Werte anstatt Null kommt ja nur dadurch zustande, dass die Voreisntellung für das Anzeigeformat "Automatisch" ist. Da versucht Labview auf Teufel komm raus die sehr kleine Zahl, die nur ein Restfehler ist, darzustellen. Das läßt sich doch leicht ändern.
Bei mir ist übrigens der absolute Fehler mit und ohne Offset etwa geich groß und etwa gleich der Maschinengenauigkeit:

   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Datengenauigkeit - Trinitatis - 06.08.2013, 11:11
RE: Datengenauigkeit - jg - 06.08.2013, 11:37
RE: Datengenauigkeit - Trinitatis - 06.08.2013, 11:45
RE: Datengenauigkeit - GerdW - 06.08.2013, 11:49
RE: Datengenauigkeit - Trinitatis - 06.08.2013, 12:03
RE: Datengenauigkeit - Lucki - 06.08.2013 12:43

Gehe zu: