INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Verschiedene Ergebnisse bei Typ Cast?



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

03.08.2015, 10:50
Beitrag #11

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Verschiedene Ergebnisse bei Typ Cast?
Offtopic2
LabVIEW Fixed Point hat auch nichts mit Finanzwesen zu tun. Da das FXP Format weiterhin auf dem Dualsystem beruht, kann es eben NICHT z.B. den Wert 0,1 exakt darstellen. Da kannst du noch so viele Bits für den Nachkommateil reservieren. Für Finanzrechnungen brauchst du Festkommazahlen mit Basis 10.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Nachrichten in diesem Thema
RE: Verschiedene Ergebnisse bei Typ Cast? - jg - 03.08.2015 10:50

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  verschiedene Datentypen über TCP/IP / UDP AgesKing 15 14.050 04.02.2013 19:47
Letzter Beitrag: jg

Gehe zu: