INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Dieses Thema hat akzeptierte Lösungen:

HEX-String in Dezimal umwandeln



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

25.11.2014, 09:14
Beitrag #4

sumsi Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 83
Registriert seit: Oct 2010

2014
2010
DE


Deutschland
RE: HEX-String in Dezimal umwandeln
Hallo,

ich habe mir jetzt mal eure Vorschläge angeschaut, erstelle ich mir diese in LabView so erhalte ich das gleiche Ergebnis wie macmarvin.

Inzwischen habe ich in meiner Berechnung per Hand noch einen Fehler gefunden, sodass ich für 39 1B B0 EB nun als Ergebnis ca. 1,48*10^-4 erhalte und für C1 48 00 00 ergibt sich -12,5. Die -12,5 kann ich mit der Umwandlung von GerdW nachfolziehen und erhalte auch diese als Ergebnis.

Nun habe ich mir ein kleiner Programm erstellt, welches mir einen Binär-Wert in String umwandelt und die entsprechenden Binärfolgen eingegeben.

für 39 1B ... erhalte ich mein von Hand gerechnetes Ergebnis von 1,48*10^-4
für C1 48 ... erhalte ich -12,5 (sowohl über Variante von GerdW und Handrechnung nachvollziehbar)

Wo liegt jetzt der Fehler? Bin ich zu blöd das ganze von Hand auszurechnen oder ist in meinem VI ein Fehler integriert? Falls ich mein VI nutzen möchte muss ich jedoch vorab meine HEX-Werte noch in Binärcode umwandeln. Wie geht dies?

Ich habe inzwischen gemerkt, dass die Mantisse nicht nur aus 23 Bits besteht sondern das als Bit 1 noch eine 1 hinzugefügt ist.

Kann mir jemand weiterhelfen? Steh grad irgendwie total auf der Leitung.

Vielen Dank


Angehängte Datei(en)
10.0 .vi  IEEE754toFloat.vi (Größe: 15,25 KB / Downloads: 381)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
HEX-String in Dezimal umwandeln - sumsi - 24.11.2014, 13:44
RE: HEX-String in Dezimal umwandeln - sumsi - 25.11.2014 09:14

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Dezimal-String nach Zahl Funktion ares2013 4 5.268 10.04.2019 13:12
Letzter Beitrag: jg
  Name Referenz von Hex in Dezimal voellig_egal 9 6.355 21.06.2018 14:31
Letzter Beitrag: voellig_egal
  String zu Number umwandeln galilio 6 6.870 01.09.2016 15:38
Letzter Beitrag: GerdW
  Problem Hexadezimal zu Dezimal Wandlung Fraser-Island 6 6.317 29.07.2015 10:34
Letzter Beitrag: Fraser-Island
  String zu Dezimal (1, 2 und 4 Byte) unsigned + Integer hansi9990 9 7.666 16.07.2015 14:25
Letzter Beitrag: hansi9990
  Flexible Präzision für Fließkommazahl in String umwandeln monoceros84 4 5.413 11.12.2014 15:04
Letzter Beitrag: monoceros84

Gehe zu: