INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

gelesene txt in Nachkomma stellen ungenau



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.06.2006, 14:27
Beitrag #4

eg Offline
LVF-SeniorMod


Beiträge: 3.868
Registriert seit: Nov 2005

2016
2003
kA

66111
Deutschland
gelesene txt in Nachkomma stellen ungenau
Hab es mit Single Precision probiert und dein Problem gesehen (mit Double Precision aber nicht).
Mein Vorschlag: verwende überall in deinem VI nur Double-Zahlen

Ansonsten Quellcode her.

Gruss

Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
gelesene txt in Nachkomma stellen ungenau - eg - 27.06.2006 14:27

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
Exclamation Wert mit 3 Stellen herrausfiltern Dany83 9 5.255 08.09.2015 21:14
Letzter Beitrag: Trinitatis
  Numerisches Anzeigeelement von 2 Stellen im code beschreiben Mrindfleisch 2 4.689 17.02.2011 15:54
Letzter Beitrag: Mrindfleisch
  Eigene Marker an definierten Stellen eines Schiebereglers? Sascha_ 2 4.309 17.01.2011 09:27
Letzter Beitrag: Sascha_
  Werte in bestimmten Stellen einer Tabelle eintragen Napoleon 11 10.735 13.01.2011 16:22
Letzter Beitrag: GerdW
  Werte in einem Array an definierten Stellen einfügen stud_lab 9 9.504 24.07.2008 14:26
Letzter Beitrag: Kvasir
  Fract/Exp String To Number hat immer nur 6 Stellen. Y-P 2 4.595 23.04.2008 15:18
Letzter Beitrag: Y-P

Gehe zu: