Hallo zusammen,
Ich benötige einen string um einen Generator zu speisen. Dazu konvertiere ich ein Number zu einem String und sende diesen an den Generator.
Mein Problem ist, dass die Zahlenwerte bei der Konvertierung in einen string leider gerundet werden. Ich bräuchte jedoch einen genauen Zahlenewert. Gibt es eine Möglichkeit die Stellen hinter dem Komma zu retten?
danke im voraus,
gürße Chris
(10.10.2013 13:07 )Christoph234 schrieb: [ -> ]Mein Problem ist, dass die Zahlenwerte bei der Konvertierung in einen string leider gerundet werden. Ich bräuchte jedoch einen genauen Zahlenewert. Gibt es eine Möglichkeit die Stellen hinter dem Komma zu retten?
Ja das lässt sich einstellen. Im Anhang das kleine Beispiel VI (ging schneller als screenshot
)
Ich hoffe es hilft dir weiter
LG
Rechtsklick auf die "Format into String"-Funktion und auf "Edit Format String" klicken. Dann solltest du allerhand Einstellungen inkl. der Anzahl der Nachkommastellen vornehmen können.
Gruß,
Tobias
Hallo Chris,
wenn du Nachkommastellen brauchst, solltest du "Number to Fractional String" oder FormatIntoString mit einem passenden Formatcode verwenden...
Bei solchen allgemeinen Fragen ist es immer hilfreich, ein Beispiel (Zahl und gewünschter String) zu nennen!
#8000
ich sollte vielleicht erwähnen, dass ich labview 7.0 studentenversion nutze...
Danke GerdW, die Funktion "Number to Fractional String" hat geholfen. Hätte ich auch selber mal ordentlich suchen können
könntest du das VI nochmal für 7.0 hochladen, Masterg? es sei denn, du hattest den gleichen Tipp.
vielen Dank!
(10.10.2013 13:32 )Christoph234 schrieb: [ -> ]könntest du das VI nochmal für 7.0 hochladen, Masterg? es sei denn, du hattest den gleichen Tipp.
Ich hatte den gleichen Tipp... einfach "Zahl nach String (Fleißkommadarstellung)" verwenden
@Tobias:
Ich liebe dieses Smiley!
Man kann die Frage:
Was muss ich machen, um eine DBL-Zahl ohne Genauigkeitstverlust in einen String zu konvertieren?
ganz einfach und allgemein (- d.h. nicht nur im Hinblick auf ein spezielles Zahlenbeispiel) beantworten.
Der relative Fehler eine DBL-Zahl liegt etwa bei 1E-16 (= Maschinenkonstante Epsilon).
Jede DBL-Zahl wird als String mit voller Präzision gespeichert, wenn man dafür das E-Format mit 15 Nachkommastellen verwendet.
Beispiel:
[
attachment=46663]
PS: In den meisten Fällen, z.B. bei Messdaten, die gewöhlich eine Präzision von höchstens 18 bit haben, reicht eine Single(SGL)-Genauigkeit zur Abspeicherung völlig aus. Die erforderliche Anzahl von Nachkommastellen im obigen Beispiel wäre dann 6 statt 15.
gepostet?