+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+---- Forum: Datenkommunikation (/Forum-Datenkommunikation)
+---- Thema: Verschiedene Ergebnisse bei Typ Cast? (/Thread-Verschiedene-Ergebnisse-bei-Typ-Cast)
Seiten: 1 2
RE: Verschiedene Ergebnisse bei Typ Cast? - jg - 03.08.2015 10:50
LabVIEW Fixed Point hat auch nichts mit Finanzwesen zu tun. Da das FXP Format weiterhin auf dem Dualsystem beruht, kann es eben NICHT z.B. den Wert 0,1 exakt darstellen. Da kannst du noch so viele Bits für den Nachkommateil reservieren. Für Finanzrechnungen brauchst du Festkommazahlen mit Basis 10.
Gruß, Jens
RE: Verschiedene Ergebnisse bei Typ Cast? - Lucki - 04.08.2015 09:41
Ja, hast ja Recht, und ich erinnere mich, dass ich das vor 20 Jahren schon mal gewußt hatte.
Ich finde es nur schade, dass durch meine falsche Bemerkung über FXP die Diskussion jetzt nur noch auf diesem Nebenschauplatz läuft, und mein - wie ich mir einbilde - sinnvolles VI zur Lösung des eigentlichen Problems für umsonst ist.
Richtig bleibt doch immerhin (wie es Gerd auch schon gesagt hat), daß das FXP-Format hier keine Hilfe zur Lösung des Problems ist.
RE: Verschiedene Ergebnisse bei Typ Cast? - n4f3ts - 25.08.2015 06:59
Danke nochmal an alle für eure Hilfe!
Ich habs jetzt verstanden
Gruß
Stefan