INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Dieses Thema hat akzeptierte Lösungen:

Nachkommastellen bei Hex-Zahlen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

28.10.2015, 09:16
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: Nachkommastellen bei Hex-Zahlen
Hast du den roten "Coercion-Dot" am Eingang von "Number to Hex String" gesehen? Die Hilfe zu dieser Funktion durchgelesen? Die Zahl wird vor Verarbeitung zu einer Integer-Zahl gerundet, wenn du also 3 Nachkommastellen gewandelt haben willst, dann erst einmal mit 1000 multiplizieren!

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
RE: Nachkommastellen bei Hex-Zahlen - jg - 28.10.2015 09:16

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Nachkommastellen abgeschnitten beim einlesen einer csv-datei in ein array noled 2 4.863 02.12.2015 16:37
Letzter Beitrag: noled
  String mit 2 Nachkommastellen anzeigen anne 9 10.256 11.01.2014 01:02
Letzter Beitrag: macmarvin
  Nachkommastellen anzeigen Ninja2602 7 9.964 28.02.2013 13:59
Letzter Beitrag: Ninja2602
  Nachkommastellen Theo-Technic 11 16.572 30.08.2011 15:42
Letzter Beitrag: A.Berndsen
  "Fract/Exponential String to Number" mehr Nachkommastellen? GT123 3 6.209 08.10.2010 07:55
Letzter Beitrag: Y-P
  Probleme mit "Max & Min - Arrayfunktion" und Nachkommastellen selma 22 14.830 17.11.2009 09:47
Letzter Beitrag: selma

Gehe zu: