Das Forum für LabVIEW-Entwickler

Lucki · (Dieser Beitrag wurde zuletzt bearbeitet: 24.07.2010 10:58 von Lucki.)

Es gibt ja auch das neue Format "Festkomma" (FXP). Wer also seine Milliarden-Transaktionen auf dem Finanzmarkt immer auf den letzten Pfennig genau berechnen will und dazu Labview verwendet - mit diesem Formt liegt er richtig.

Bei Gleitkommazahlen muß die Frage, ob 0.1 + 0.2 = 0.3 ist, unter Berücksichtigung der Maschinentoleranz gestellt werden. Dann kommt duchaus ein "Ja" heraus - es ist aber umständlich immer so zu fragen:

Möglicherweise verwandte Themen...
Themen		Verfasser	Antworten	Views	Letzter Beitrag
	LV allgemein: Labels der VIs im block diagram immer anzeigen	laumann	10	8.642	05.02.2016 09:44 Letzter Beitrag: Freddy
	Systeminformationen Allgemein ermitteln	dbuckl	14	8.041	24.03.2015 10:20 Letzter Beitrag: GerdW
	[Allgemein] Hilfe bei Euler-Winkeln	Yantit	1	2.973	09.03.2011 08:17 Letzter Beitrag: Yantit
	LabVIEW Allgemein	kcccp	11	10.349	06.07.2009 15:00 Letzter Beitrag: kcccp
	DataSocket allgemein	Snoop2000	3	4.625	16.04.2008 03:58 Letzter Beitrag: thomas.sandrisser
	Reihenfolge von 2 Case-Strukturen bzw. Case-Struktur allgemein	Bob	2	5.141	10.08.2007 14:52 Letzter Beitrag: Bob

Das Forum für LabVIEW-Entwickler

Ungenauigkeit von Floatingpoint (allgemein)