Ungenauigkeit von Floatingpoint (allgemein) |
Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!
|
. Erschwerend zu den Fehlenden 12 Nachkommastellen kommt eben dieser Rundungsfehler hinzu. Der Ist in dem Moment ein größeres Problem als die fehlenden Stellen, da der Fehler an einer Stelle mit wesentlich höherer Signifikanz auftritt. Den fehlenden Kommastellen könnte ich ja zu Leibe rücken in dem ich (wie hier schon vorgeschlagen wurde) mit 10^x multipliziere, aber wenn der Rundungsfehler so "hoch" ist bringt mir das ja nichts, da ich den wieder reinbekomme sowie ich zurück in die Kommazahl umwandle.
|
|
| Möglicherweise verwandte Themen... | |||||
| Themen | Verfasser | Antworten | Views | Letzter Beitrag | |
| LV allgemein: Labels der VIs im block diagram immer anzeigen | laumann | 10 | 8.318 |
05.02.2016 09:44 Letzter Beitrag: Freddy |
|
| Systeminformationen Allgemein ermitteln | dbuckl | 14 | 7.798 |
24.03.2015 10:20 Letzter Beitrag: GerdW |
|
| [Allgemein] Hilfe bei Euler-Winkeln | Yantit | 1 | 2.916 |
09.03.2011 08:17 Letzter Beitrag: Yantit |
|
| LabVIEW Allgemein | kcccp | 11 | 10.222 |
06.07.2009 15:00 Letzter Beitrag: kcccp |
|
| DataSocket allgemein | Snoop2000 | 3 | 4.568 |
16.04.2008 03:58 Letzter Beitrag: thomas.sandrisser |
|
| Reihenfolge von 2 Case-Strukturen bzw. Case-Struktur allgemein | Bob | 2 | 5.043 |
10.08.2007 14:52 Letzter Beitrag: Bob |
|