INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Von String nach DBL ohne Verlust



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

07.07.2010, 09:19 (Dieser Beitrag wurde zuletzt bearbeitet: 07.07.2010 09:20 von jg.)
Beitrag #6

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Von String nach DBL ohne Verlust
' schrieb:Also hab jetzt "ScanfromString" verwendet. funktioniert soweit auch bis auf 2 Kleinigkeiten:
1. Wie kann ich die Genauigkeit erhöhen? Bei nem Wert von 0,027 macht er 0,03 draus und das ist schlecht.
Das ist nur ein "optischer" Effekt. Erhöhe mal die Anzahl der Nachkommastellen in der numerischen Anzeige (Rechtsklick -> Display Format ...).
' schrieb:2. Das Messgerät spuckt manchmal so Werte wie "<0,005" aus, danach schmiert "ScanfromString" ab (leider). Kann ich das beheben?
Dann brauchst du wohl noch eine Fallunterscheidung vor dem "ScanFromString".
Zuerst kommt eine Suche im String, ob ein <-Zeichen vorhanden ist. Wenn ja, dann könntest du die Zahl als 0 werten. Wenn nein, wandelst du mit ScanFromString.
   

EDIT: Alternativ könntest du auch den Fehlerausgang vom "ScanFromString" auswerten.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
Antwort schreiben 


Nachrichten in diesem Thema
Von String nach DBL ohne Verlust - jg - 07.07.2010 09:19
Von String nach DBL ohne Verlust - jg - 07.07.2010, 10:44

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  String nach Enum konvertieren NoWay 2 4.825 20.08.2019 10:58
Letzter Beitrag: NoWay
  Dezimal-String nach Zahl Funktion ares2013 4 5.029 10.04.2019 13:12
Letzter Beitrag: jg
  While-Struktur löschen ohne Verlust Beam1 7 6.054 01.03.2017 10:17
Letzter Beitrag: Freddy
  Eingabe String nach einen bestimmten Format bearbeiten galilio 18 11.531 27.01.2017 10:58
Letzter Beitrag: jg
  String nach Array mit fester Länge jan_1 18 10.113 22.04.2016 12:49
Letzter Beitrag: Lucki
  String Array Sortieren nach Zahlen... toaran_ 7 9.033 12.11.2012 17:09
Letzter Beitrag: toaran_

Gehe zu: