INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Frage zu "Quotient und Rest"



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

09.03.2009, 16:29
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Frage zu "Quotient und Rest"
Nein, würde ich nicht als Bug bezeichnen, sondern das ist ein typisches Resultat, das sich aus der Darstellung von Fließkommazahlen im Binärformat ergibt.

Problem ist: 0,1 kann nicht exakt als Fließkommazahl dargestellt werden, erhöhe mal die Anzahl der sichtbaren Nachkommastellen auf z.B. 20 Digits of Precision, dann siehst du, was ich meine.

"Quotient and Reminder" ist aus meiner Sicht prädestiniert für die Behandlung von Integer-Zahlen, und nicht von Fließkommazahlen.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Frage zu "Quotient und Rest" - jg - 09.03.2009 16:29
Frage zu "Quotient und Rest" - Lucki - 09.03.2009, 16:39
Frage zu "Quotient und Rest" - Lucki - 09.03.2009, 18:34
Frage zu "Quotient und Rest" - Lucki - 09.03.2009, 18:55

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Funktion "Quotient und Rest" Dümo 1 2.755 05.04.2018 08:36
Letzter Beitrag: jg
  "Ergebnis und Rest" Problem ReneP 6 6.643 16.11.2011 10:57
Letzter Beitrag: ReneP
  userlib verlegen aber den Rest gleich lassen gottfried 0 3.117 05.10.2007 12:59
Letzter Beitrag: gottfried

Gehe zu: