INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Gerundete Zahlen und Nachkommastellen



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

26.03.2007, 12:16
Beitrag #3

exxpkeb Offline
LVF-Grünschnabel
*


Beiträge: 25
Registriert seit: Mar 2006

8.2
2006
kA


Deutschland
Gerundete Zahlen und Nachkommastellen
' schrieb:Das hat mit Regionaleinstellungen zu tun. Bei der Umwandlung String To Double und umgekehrt muss man das Flag "Use System Decimal Point" auf False setzen.

Eugen

Hi Eugen,

eigentlich wandel ich die aquirierten Daten nicht. Die kommen als Numerische Doubles rein (über node mit C code) und gehen direkt in den numerical Indicator (auch double).
Wie gesagt alles probiert, DBL, INT, jedes Formatting, auch significant und digits of precision....
beim VI ist alles gut, bei der Application bekomme ich gerundete Values.. (???)
Oder was meintest du sonst mit Regionalen Einstellung (und wo finde ich die)?

danke u Gruß
Keb
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Nachrichten in diesem Thema
Gerundete Zahlen und Nachkommastellen - exxpkeb - 26.03.2007 12:16

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Nachkommastellen abgeschnitten beim einlesen einer csv-datei in ein array noled 2 4.879 02.12.2015 16:37
Letzter Beitrag: noled
  Nachkommastellen bei Hex-Zahlen Bensch 7 5.482 28.10.2015 14:43
Letzter Beitrag: Lucki
  String mit 2 Nachkommastellen anzeigen anne 9 10.276 11.01.2014 01:02
Letzter Beitrag: macmarvin
  Nachkommastellen anzeigen Ninja2602 7 9.974 28.02.2013 13:59
Letzter Beitrag: Ninja2602
  Keithley 2636/ gerundete Stromwerte Gahlunke 7 5.240 12.06.2012 19:02
Letzter Beitrag: Gahlunke
  Nachkommastellen Theo-Technic 11 16.590 30.08.2011 15:42
Letzter Beitrag: A.Berndsen

Gehe zu: