Von String nach DBL ohne Verlust

Hallo,
habe folgendes Problem:
Wie kann ich die Werte in "A" (0,031 & Ohm) so umwandeln (durch "B" werden beide zu 0), dass sie nicht zu 0 werden und trotzdem passend sind (also beim einen in das Vergleichs-VI ("C") eingebunden werden können)?
Danke,
Grüße,
Matze

Hallo Matze,

einfache Lösung: richte deinen Computer vernünftig ein und verzichte auf's deutsche Komma als Dezimaltrennzeichen

Bessere Lösung: wandle den String "0.031" mittels ScanFromString und dem Formatstring "%.;%f" richtig um. (Kontexthilfe erzählt dir alles zu den Formatcodes...) Oder guck dir die Kontexthilfe zu deinem StringToFractional an - da gibt's einen weiteren Input oben in der Mitte

Frage: Wie willst du bitte den String "Ohm" in eine Zahl umwandeln??? Und was soll da rauskommen?

Hi Gerd,
ich will "Ohm" (A) eigentlich so belassen und in eine Matrix eintragen (B). Wenn ich das aber nicht umwandle nimmt er "Ohm" wegen den anderen 2 Eingängen in B nicht an. Muss ich das mit nem Cluster machen?

Hallo Matze,

erstmal: eine Matrix ist etwas anderes als ein Array - zumindestens für LabVIEW...

Ein Array kann nur Daten eines Datentyps aufnehmen, Strings und DBLs passen halt nicht zusammen.
Ja, ein Cluster wäre eine Möglichkeit, trotzdem das "Ohm" zu speichern...

Außerdem:
Was soll bitte der Vergleich eines boolschen Wertes mit FALSE? Kann man da nicht einfach ein NOT verwenden?
Ich würde dir anraten, auf lokale Variablen, wenn irgend möglich, zu verzichten

Also hab jetzt "ScanfromString" verwendet. funktioniert soweit auch bis auf 2 Kleinigkeiten:
1. Wie kann ich die Genauigkeit erhöhen? Bei nem Wert von 0,027 macht er 0,03 draus und das ist schlecht.
2. Das Messgerät spuckt manchmal so Werte wie "<0,005" aus, danach schmiert "ScanfromString" ab (leider). Kann ich das beheben?

Das mit "Ohm" werd ich jetzt gleich probieren.
Und das mit dem "False-Vergleich":), naja was soll ich da sagen. Ich wollte das er bei False nen TRUE ausgibt und anstatt das dann gleich in den FALSE Teil des Cases zu schreiben hab ichs in TRUE geschrieben. Sehr dumm, ich weiß, habs auch gleich geändert. Kein Plan was ich mir dabei dachte. Danke für den Hinweis.

' schrieb:Also hab jetzt "ScanfromString" verwendet. funktioniert soweit auch bis auf 2 Kleinigkeiten:
1. Wie kann ich die Genauigkeit erhöhen? Bei nem Wert von 0,027 macht er 0,03 draus und das ist schlecht.

Das ist nur ein "optischer" Effekt. Erhöhe mal die Anzahl der Nachkommastellen in der numerischen Anzeige (Rechtsklick -> Display Format ...).

' schrieb:2. Das Messgerät spuckt manchmal so Werte wie "<0,005" aus, danach schmiert "ScanfromString" ab (leider). Kann ich das beheben?

Dann brauchst du wohl noch eine Fallunterscheidung vor dem "ScanFromString".
Zuerst kommt eine Suche im String, ob ein <-Zeichen vorhanden ist. Wenn ja, dann könntest du die Zahl als 0 werten. Wenn nein, wandelst du mit ScanFromString.
   

EDIT: Alternativ könntest du auch den Fehlerausgang vom "ScanFromString" auswerten.

Gruß, Jens

Anzeige

Das mit dem "kleiner null" versteh ich nicht. Kannst du das nochmal erklären?

Hi,
das mit dem Messwert funktioniert jetzt. Das mit der Einheit (Ohm) krieg ich aber irgendwie nicht hin (siehe Beitrag 3 & 4).
Weiß jemand wies gehn könnte?
Grüße

' schrieb:Das mit dem "kleiner null" versteh ich nicht. Kannst du das nochmal erklären?

s. Hilfe:
   
Gruß, Jens

ahhhhhhhh