' schrieb:FIX ist z.B. für kaufmännische Berechnungen. Grundlage dieses Datentyps ist ein I32/I64. In der Anzeige (und der Eingabe) erscheint es so, als sei es eine Double-Zahl mit z.B. vier Nachkommastellen. Dabei wird lediglich die I32/I64-Zahl durch die entsprechende Zehnerpotenz geteilt (=> der Dezimalpunkt um die Anzahl der Nachkommastellen verschoben).
Halt, halt,
hier im Beitrag geistert im Moment so einiges Falsches über das LV-FXP-Format rum.
Schaut mal hier:
http://zone.ni.com/reference/en-XX/help/37...data/#Using_FXP
Somit ist zu bemerken:
1. Eine FXP hat maximal 64bit. (@Lucki: 256 bit geht leider nicht, obwohl es bestimmt interessant wäre).
2. Es wird nicht der Dezimalpunkt verschoben. Es werden immer nur dieselbe Anzahl an Bits für die Nachkommadarstellung genommen. Das bedeutet aber, dass ich nur rationale Brüche, die durch eine Potenz von 2 darstellbar sind (also z.B. 1/2, 1/4, ...) exakt darstellen kann, vorausgesetzt, ich habe genügend Bits für die Nachkommadarstellung reserviert. Bsp: Reserviere ich nur 1 bit für das "Nachkomma", dann kann ich nur Vielfache von 0,5 exakt darstellen.
Dann noch was zum ursprünglichen Thema:
@Y-P: Hast du dir mal die LabVIEW-interne-Implementation des Binominalkoeffizienten angeschaut? Denn alle 3 Fakultäten ausrechnen, da machst du ein wenig zu viel des Guten.
Gruß, Jens
