INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Flatten to xml -> Zahlen fehlerhaft



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

18.11.2011, 14:10
Beitrag #6

Hans lv-dau Offline
LVF-Grünschnabel
*


Beiträge: 10
Registriert seit: Nov 2008

8.6, 2010
1992
EN

79650
Deutschland
RE: Flatten to xml -> Zahlen fehlerhaft
Diskretisierung ist das Stichwort


Was ich aber nicht kapiere sind die Zusammenhänge:

-> warum schon so "früh", double sind doch 64bit?
die Beschreibungen der Begrenzungen zu Mantisse (11bit?) und Exponent (52bit?) liegen ja über 4225

-> warum bei 4225 und nicht z.B. bei 4096?
also was "binär nachvollziehbares"
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
30
Antwort schreiben 


Nachrichten in diesem Thema
RE: Flatten to xml -> Zahlen fehlerhaft - Hans lv-dau - 18.11.2011 14:10

Gehe zu: