INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Dieses Thema hat akzeptierte Lösungen:

Kehrwertergebnis im Anzeigeelement fehlerhaft



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

19.05.2022, 12:19 (Dieser Beitrag wurde zuletzt bearbeitet: 19.05.2022 12:48 von L@BTR0N.)
Beitrag #3

L@BTR0N Offline
LVF-Grünschnabel
*


Beiträge: 28
Registriert seit: Apr 2010

2016
2008
DE


Deutschland
RE: Kehrwertergebnis im Anzeigeelement fehlerhaft
Hallo GerdW,

hab den Eingang auf 20 Stellen umgestellt, und da zeigt es "0,00020000000000000001" an. Dann ist auch kein wunder, dass bei Double die eh nur ne 15 stellige Genauigkeit kann.
Jedoch stelle ich mir die Frage, wo die 1 herkommt, die ich ja nicht eingegeben habe. Das ganze ist mir nur aufgefallen, weil ich den ergebniswert in die Exceltabelle exportiert habe und dort
im Vergleich keine übereinstimmung gefunden habe. Dort zeigt es stramm die 5000 an, auch wenns 30 stellen hat.

Nachtrag: Habs nochmal probiert, den Eingangswert vorher zu runden. Trotzdem hauts am ende das gleiche Ergebnis wie vorher auch raus.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
RE: Kehrwertergebnis im Anzeigeelement fehlerhaft - L@BTR0N - 19.05.2022 12:19

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LED-Anzeigeelement mit runden Ecken nixblicker 9 5.514 30.10.2020 09:23
Letzter Beitrag: Lucki
  Werte aus Array als Anzeigeelement ares2013 11 9.299 30.04.2019 14:28
Letzter Beitrag: ares2013
  Anzeigeelement modifizieren Mechatroniker28 12 9.337 21.03.2018 11:43
Letzter Beitrag: Mechatroniker28
  HintergrundFarbe Bedien-/Anzeigeelement ändern - schwarz/grau t.hipp 4 4.833 19.02.2018 14:57
Letzter Beitrag: Appa
  Übergabe Anzeigeelement zwischen VIs (Referenz/globale Variable?) lipster 1 4.319 03.02.2017 14:27
Letzter Beitrag: GerdW
  Spaltenbreite Tabellen-Anzeigeelement Tobi Wan Kenobi 2 5.511 16.11.2016 07:25
Letzter Beitrag: Tobi Wan Kenobi

Gehe zu: