Zahlenumwandlung

(08.01.2016 14:56 )GerdW schrieb:  @Ludwig:

Zitat:Bitshift anstatt Division geht bei negativen Integerwerten aber in die Hose.

Wenn man das Sign-Bit erhält, ist alles schick: damit landet man nämlich nach Lesen der LabVIEW-Hilfe beim Vorschlag von Jens "Scale By Power of 2"…

Mein Vorschlag war eine Division y=x/16, der Vorschlag von Jens ist aber ebenfalls keine Shift-Operation, sondern die qasi identische Division y=x/2^4. (Die Labview Funktion y=2^n macht vielleicht intern eine Shift-Operation, das ist aber belanglos. Wichtig ist nur, das der vorzeichenbehaftete x-wert nicht geshiftet, sondern dividiert wird)
Hier der Vergleich:
   
Dass Dein neuer Vorschlag zur Reparatur Deines alten Vorschlages "schick" sein könnte, erschließt sich mir nicht. Im Gegenteil: Der Code - selbstverstädlich inklusive Fallunterscheidung positiv/negativ - dürfte gegenüber der einfachen Division so skurril sein, dass man leicht auf die Idee kommen würde, daß es nur darum geht, einen offensichtlichen Irrtum nicht zuzugeben.
Gruß Ludwig