Umrechnung hexadezimal im 2er Kompliment nach dezimal

(31.05.2012 10:14 )Takuro schrieb:  

(31.05.2012 10:02 )jg schrieb:  @Takuro:
Der Typecast ist aber "Blödsinn hoch 5" und absolut falsch!

Meine intention damit war, die Darstellung gleich festzulegen.

Wenn ich das richtig verstanden habe, ist ja alles die selbe Zahl, nur die Darstellung ist halt anders. Ohne den zweiten Teil von mir, könnte die Anzeige z.B. auch auf Hexdezimal gestellt sein und dann würde wieder keine Dezimal rauskommen. Nun stelle ich aber gerade selber fest, dass ich bei der Darstellung beider Varianten nicht umschalten kann. Warum?

Zum Typecast: Das ist eine Umwandlung auf "Binär" oder "Speicher"-Ebene.

Bsp: Eine U32-Zahl belegt im Speicher 4 Byte. Auch eine SGL-Zahl belegt im Speicher 4 Byte. Das Bit-Muster 0x00000002 stellt bei U32 die Zahl 2 dar, bei SGL aber 2,80...E-45. Deshalb ist das Typecast an dieser Stelle fragwürdig. Wenn du eine U32 mit Wert 2 in eine SGL/DBL mit Wert 2 umwandeln willst, dann nimm die Funktionen aus der Numeric->Conversion-Palette, aber nicht Typecast!

In deinem Bsp wird zusätzlich ein Typecast von U32 auf DBL (also 4 Byte auf 8 Byte) gemacht. LabVIEW akzeptierst das zwar, aber so richtig toll ist das nicht.

Gruß, Jens