+- LabVIEWForum.de (https://www.labviewforum.de)
+-- Forum: LabVIEW (/Forum-LabVIEW)
+--- Forum: LabVIEW Allgemein (/Forum-LabVIEW-Allgemein)
+--- Thema: Double in integer umwandeln ? (/Thread-Double-in-integer-umwandeln)
Double in integer umwandeln ? - Stefan22 - 24.03.2006 14:56
Ich habe gerade eine Art Rundungsproblem feststellen müssen beim
Quotient und Rest VI - liefet mir leider ein falsches Ergebnis, wenn ich zwei double Werte Eingangsseitig (x = 80 ; y = 20) auslesen will - anstatt 4; 3.
Obwohl ich die double Werte eingangsseitig noch zusätzlich mit 100 Multipliziert habe, ändert sich nichts an dem falschen Ergebnis - bei Y=10 gibts keine Probleme.
Gibt es noch alternativ eine Möglichkeit, ein double Wert in ein ganzzahligen integer zu konvertieren, als mit dieser quotient and remainder Funktion ?
Gruss Stefan
Double in integer umwandeln ? - cb - 24.03.2006 15:00
ja, mit der "to integer" funktion ...
ich konnt mich grad nochmal zusammenreissen und hab nun nicht "RTFM" geschrieben
Double in integer umwandeln ? - Stefan22 - 24.03.2006 21:42
Ja is ja gut, zu irgendwas muss ja das Internet gut sein, ich schreib halt auch lieber einen kurzen Thread, als das fu***** manual zu lesen.
Danke trotzdem.
Double in integer umwandeln ? - cb - 28.03.2006 18:02
lol
wenixtens gut geantwortet
P.S. das bild ist nicht absichtlich so groß. Es liegt wohl eher daran, dass mein Bildausschnitt automatisch vom Forum auf eine bestimmte (Mindest-)Größe raufskaliert wird ...