Nachkommastellen bei Hex-Zahlen - Druckversion +- LabVIEWForum.de (https://www.labviewforum.de) +-- Forum: LabVIEW (/Forum-LabVIEW) +--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein) +--- Thema: Nachkommastellen bei Hex-Zahlen (/Thread-Nachkommastellen-bei-Hex-Zahlen)

Nachkommastellen bei Hex-Zahlen - Bensch - 28.10.2015 09:10 Moin, da ich nicht genau wusste in welches Unterforum das Thema gepasst hätte habe ich es mal hier bei LabVIEW allgemein eingeordnet. Ich möchte gerne einen Befehl senden der aus 8 Hex-Zahlen besteht. Man soll im Frontpanel eine Dezimal Kommazahl eingeben können, welche dann vom Programm in Hex-Zahlen umgeformt wird. Wobei die ersten 5 Hexzahlen die Vorkomma Stelle anzeigen und die letzten 3 die Nachkommastelle. Die beiden Operationen (mal 60, durch 90) sind nur Umrechnungen die vom eigentlichen Hauptprogramm gefordert werden und nichts mit meinem eigentlichen Problem zu tun haben. Ich steh nämlich grad ziemlich auf dem Schlauch was die Nachkommastellen angeht und würde mich über ein wenig Hilfe sehr freuen. Ich weiß dass mein jetziger Hex-Ausgabewert nicht richtig ist, komme aber partout nich drauf wie ich die Nachkommastellen richtig codieren muss. Danke im Vorraus, Ben RE: Nachkommastellen bei Hex-Zahlen - jg - 28.10.2015 09:16 Hast du den roten "Coercion-Dot" am Eingang von "Number to Hex String" gesehen? Die Hilfe zu dieser Funktion durchgelesen? Die Zahl wird vor Verarbeitung zu einer Integer-Zahl gerundet, wenn du also 3 Nachkommastellen gewandelt haben willst, dann erst einmal mit 1000 multiplizieren! Gruß, Jens RE: Nachkommastellen bei Hex-Zahlen - Bensch - 28.10.2015 09:42 Danke erstmal für die schnelle Antwort. Ja ich habe das gelesen, jedoch mit nicht allzu viel Erfolg ich dachte auch schon an so etwas in der Art dass man die Nachkommastellen vor der Umwandlung anpassen muss und hatte einige Sachen ausprobiert. Allerdings nicht mit Erfolg. Auch wenn ich meinen nun angepassten Geschwindigkeitsumrechner nun frage gibt er mir nicht die korrekte Hexzahl raus. Oder seh ich da etwas komplett falsch? edit: Wenn ich eingebe 2,1 mm/s rechnet er das in 1,4 U/min und dieser Wert wird dann erst in Hex umgeformt und rauskommen müsste 0x00001666 jedoch gibt er mir aus 0x00001190. Irgendetwas stimmt bei der Umrechnung nicht und ich komm nich drauf was... RE: Nachkommastellen bei Hex-Zahlen - Bensch - 28.10.2015 10:00 Ok, habe das Problem jetzt dank Geistesblitz doch selbst lösen können und habe das auf eine vielleicht etwas umständliche allerdings funktionierende Weise hingekriegt. Wen es interessiert: Das funktionierende VI im Anhang, Anmerkungen, wie man das charmanter hätte lösen können, lese ich natürlich trotzdem gerne. Ciao Ben RE: Nachkommastellen bei Hex-Zahlen - Lutzi - 28.10.2015 10:05 Du musst natürlich die Nachkommastellen auf das Hexadezimalsystem umstellen. 3 Stellen = 1/4096 und nicht 1/1000! RE: Nachkommastellen bei Hex-Zahlen - Bensch - 28.10.2015 10:16 ahhh ok danke das deckt sich dann auch mit meiner Umrechnungsmethode, ist aber vermutlich genauer und charmanater. Dickes Dankeschön! RE: Nachkommastellen bei Hex-Zahlen - jg - 28.10.2015 10:16 Nachtrag: Anstatt 3x durch 16 teilen, For-Loop: [attachment=54413] Lutzi's Vorschlag ist natürlich noch besser. Gruß, Jens RE: Nachkommastellen bei Hex-Zahlen - Lucki - 28.10.2015 14:43 Das geht doch alles noch einfacher: [attachment=54418]