INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

S5 Gleitpunktzahl lesen und umwandeln



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

13.11.2010, 12:44 (Dieser Beitrag wurde zuletzt bearbeitet: 13.11.2010 12:59 von jg.)
Beitrag #16

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
S5 Gleitpunktzahl lesen und umwandeln
Ich nehme alles zurück, was ich gesagt/geschrieben habe.

Ich habe das mit dem Vorzeichen-Bit für die Mantisse komplett falsch aus der Doku interpretiert. Das ist nicht ein Bit, das ein + oder - Vorzeichen anzeigt, sondern bei Bit 24=True wird abgezogen. Somit hat dein VI bei der Berechnung der Mantisse alles richtig gemacht. Trotzdem fehlt dir die Vorzeichenbehandlung beim Exponenten.

So, und jetzt noch ein Screenshot, der (hoffentlich) passt (zumindest bei den Bsps, die du veröffentlicht hast):
   

EDIT: Und noch eine korrigierte V2:
Lv09_img2
Sonstige .vi  KG_NACH_SGL_V2.vi (Größe: 22,42 KB / Downloads: 209)


Gruß, Jens

EDIT2: @stenzr: Hast du mal ein Bsp für eine Zahl kleiner als 1 zur Hand? Dann ist der Exponent negativ!

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Nachrichten in diesem Thema
S5 Gleitpunktzahl lesen und umwandeln - jg - 13.11.2010 12:44

Gehe zu: