INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Genauigkeit passt nicht(String nach Zahl und dann in Array)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

03.11.2010, 16:35
Beitrag #1

Bobbycartuner Offline
LVF-Grünschnabel
*


Beiträge: 20
Registriert seit: May 2010

9.0.1
2010
de


Deutschland
Genauigkeit passt nicht(String nach Zahl und dann in Array)
Hallo,
habe ein kleines Problem, das ich erst nach ein paar Wochen Arbeit an meinem Programm entdeckt habe.
Ich konvertiere eine String Tabelle in ein Zahlenarray, angeblich mit der Genauigkeit von 15 Stellen.
(Double 64bit reell)
lasse ich mir nun aber das Array anzeigen sind drei Stellen weg dabei aber immer schön gerundet.
Meine Zahlen sehen ungefähr so aus: 1,23456789E-05 mMn (wie in Numerik gelernt) sind das 9 Stellen und sollten somit alle angezeigt werden. Selbst wenn man die Zahl asuschreiben würde wären es 15 Stellen.. 0,0000123456789 (wobei die Stellen ja erst ab der ersten Ziffer ungleich 0 gezählt werden)
Liegt es an der Array Anzeige Funktion oder wird doch falsch von String nach Zahl gewandelt?

Gruß vom Tuner


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Nachrichten in diesem Thema
Genauigkeit passt nicht(String nach Zahl und dann in Array) - Bobbycartuner - 03.11.2010 16:35

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Messwert für eine gewisse Zeit (~5sek.) speichern und dann erst ausgeben niklas2016 8 5.545 31.03.2021 09:35
Letzter Beitrag: GerdW
  Bestimmte Zeilen im Array löschen wenn Bedingung nicht erfüllt ist bachatero18 4 5.487 31.03.2020 14:49
Letzter Beitrag: bachatero18
Question MONATSverbrauch aus TAGES-String-Array berechnen Blondchen 1 4.787 19.02.2020 16:21
Letzter Beitrag: GerdW
  String in Array speichern für flexible Gruppenbenennung in TDMS Datei hansi_1 3 4.181 10.12.2019 09:45
Letzter Beitrag: Freddy
  String nach Enum konvertieren NoWay 2 5.018 20.08.2019 10:58
Letzter Beitrag: NoWay
  Dezimal-String nach Zahl Funktion ares2013 4 5.189 10.04.2019 13:12
Letzter Beitrag: jg

Gehe zu: