Flatten to xml -> Zahlen fehlerhaft

Baumstrukturmodus | Linearer Modus

Flatten to xml -> Zahlen fehlerhaft

Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

18.11.2011, 21:58

Beitrag #7

unicorn Offline

LVF-Freak

Beiträge: 680
Registriert seit: Jul 2009

8.6.1, 2010 - 2012
1994
EN

10xxx
Deutschland

RE: Flatten to xml -> Zahlen fehlerhaft

Fließkommazahlen in binärer Computerdarstellung sehen immer so aus: 1,m * 2^e. m = Mantisse e = Exponent mit je nach Norm verschiedenen Anzahl von Ziffern. 4096 oder 4225 kommt nicht vor.

Im Dezimalsystem wär es so: 4,096 * 10^3, oder 1 * 10^1 oder ... Die Mantisse ist immer kleiner 10.

Der Diskretisierungsunterschied sollte bei vielen Zahlen auftreten.