INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Datentypproblem (Bug?)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

11.06.2007, 08:55
Beitrag #6

Jörg Offline
LVF-Neueinsteiger


Beiträge: 6
Registriert seit: Aug 2006

8.00
2006
kA


Deutschland
Datentypproblem (Bug?)
Hallo IchSelbst,

das Problem liegt nicht an einem Vergleich von Werten. Das mache ich nicht. Worum es geht ist einfach, dass ich einer DLL-Funktion Paramter übergebe und das "Problemkind" ist ein double-Wert. Letztendlich steuere ich eine Messkarte von Acquitek damit an und der Wert gibt an, um wieviel Samples ein Triggerdelay vorhanden sein soll. Jetzt aber nicht wundern das dies ein double-Wert ist, obwohl Samples sowieso nur ganzzahlig sein können, denn mit der Funktion die ich aufrufe, können noch andere Aktionen ausgeführt werden, wo der double-Wert notwendig ist.
Dieses Triggerdelay gebe ich in us an, so dass ich eine Umrechnung machen muss. Ich dividiere den angegebenen Wert durch 1e6 (aufgrund der Basis von us) und multiplizere diesen Wert dann mit der Abtastrate (20e6 Hz) - siehe calcWatisamples.jpg im Anhang. Die Werte die ich erhalte sind auch immer "ganzzahlig".
Noch mal das Bsp. mit den 6000 von oben. Dort übergebe ich 300 us und erhalte letztendlich ein Triggerdelay von 6000 Samples. Dies ist einer der Werte die nicht gingen. Wenn ich jetzt wie oben den Betrag bilde und aufrunde oder wenn ich den Wert in integer konvertiere und daraus wieder ein double-Wert mache funktioniert die ganze Geschichte.
Die Frage die sich für micht stellt ist, was passiert mit dem double-Wert oder wie verwaltet LabVIEW dahingehend die Variablen?
Eine C-Anwendung die ich geschrieben hatte funktioniert auf jeden Fall mit der Umrechnung problemlos.

Gruß
Jörg


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Datentypproblem (Bug?) - Jörg - 07.06.2007, 16:24
Datentypproblem (Bug?) - IchSelbst - 07.06.2007, 22:02
Datentypproblem (Bug?) - Jörg - 08.06.2007, 08:39
Datentypproblem (Bug?) - IchSelbst - 08.06.2007, 22:38
Datentypproblem (Bug?) - Jörg - 11.06.2007 08:55
Datentypproblem (Bug?) - jg - 11.06.2007, 09:23
Datentypproblem (Bug?) - IchSelbst - 11.06.2007, 09:24
Datentypproblem (Bug?) - IchSelbst - 11.06.2007, 09:28
Datentypproblem (Bug?) - Jörg - 11.06.2007, 16:32

Gehe zu: