INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Datentypproblem (Bug?)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

11.06.2007, 09:24
Beitrag #8

IchSelbst Offline
LVF-Guru
*****


Beiträge: 3.696
Registriert seit: Feb 2005

11, 14, 15, 17, 18
-
DE

97437
Deutschland
Datentypproblem (Bug?)
Hallo Jörg,

ich hab dein - respektive das von LV - Problem mal untersucht und bin zu folgendem Ergebnis gekommen.

Ausgehend von deiner Aussage, dass bei "300 / 1000000 * 20000000" nicht genau 6000 herauskommt, also ohne Nachkommastellen ungleich 0, hab ich mir mal den Rundungsmode der FPU angekuckt. Dabei hab ich folgendes festgestellt:
[code]procedure TMyForm.Button1Click(Sender: TObject);
var d1,d2,d3,d4: single;
begin

Jeder, der zur wahren Erkenntnis hindurchdringen will, muss den Berg Schwierigkeit alleine erklimmen (Helen Keller).
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Datentypproblem (Bug?) - Jörg - 07.06.2007, 16:24
Datentypproblem (Bug?) - IchSelbst - 07.06.2007, 22:02
Datentypproblem (Bug?) - Jörg - 08.06.2007, 08:39
Datentypproblem (Bug?) - IchSelbst - 08.06.2007, 22:38
Datentypproblem (Bug?) - Jörg - 11.06.2007, 08:55
Datentypproblem (Bug?) - jg - 11.06.2007, 09:23
Datentypproblem (Bug?) - IchSelbst - 11.06.2007 09:24
Datentypproblem (Bug?) - IchSelbst - 11.06.2007, 09:28
Datentypproblem (Bug?) - Jörg - 11.06.2007, 16:32

Gehe zu: