Das Forum für LabVIEW-Entwickler

xandi_01 · 13.12.2011, 21:36

Hallo Forum,

stehe gerade vor einem kuriosen RUNDUNGSPROBLEM.
Ich verwende die Funktion "number to fractional string" und scheinbar passiert hier bei der Rundung ein Fehler.

Habe im angefügten VI mal 7 verschiedene Fälle aufgelistet, bei dem meiner Ansicht nach in Fall 2 und 3 falsch gerundet wird!!!

Kann mir das jemand erklären? Oder liegt der Fehler bei mir?

Besten Dank im Voraus.

10.0

Number to fractional string.vi (Größe: 9,14 KB / Downloads: 213)

jg · 13.12.2011, 21:57

Akzeptierte Lösung

Fließkommazahlen können in der Regel im Computer nicht exakt dargestellt werden.
Wenn man die Anzeige auf 18 signifikante Stellen erhöht, dann sieht man das besser. Und dann ist auch alles korrekt mit der Rundung:

Gruß, Jens

xandi_01 · 13.12.2011, 22:02

DANKE Jens,

so ist es natürlich klar.

Möglicherweise verwandte Themen...
Themen		Verfasser	Antworten	Views	Letzter Beitrag
	Schieberegister Initialisierung mit Array => Not a Number	Roland	7	8.244	03.07.2017 15:58 Letzter Beitrag: Roland
	String zu Number umwandeln	galilio	6	6.541	01.09.2016 15:38 Letzter Beitrag: GerdW
	Boolean Array (>32-Bit!) to Number	Daniel_S	2	6.180	27.07.2016 13:44 Letzter Beitrag: jg
	Fract/Exp String To Number Function	grba123	2	4.391	17.08.2015 11:44 Letzter Beitrag: GerdW
	MultiColumn Listbox Reihen number	Fabian257	6	5.369	16.06.2015 10:36 Letzter Beitrag: Fabian257
	Probleme mit "Fract/Exp String To Number Function "	Schmankerl	3	5.080	23.01.2014 12:53 Letzter Beitrag: jg

Das Forum für LabVIEW-Entwickler

Dieses Thema hat akzeptierte Lösungen:

number to fractional string RUNDUNGSFEHLER???