INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Wieso funktioniert das "=" nicht?



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

18.03.2009, 07:46
Beitrag #8

Xaran Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 200
Registriert seit: Jun 2006

LabView 2009
2006
en

80***
Deutschland
Wieso funktioniert das "=" nicht?
' schrieb:Auch das ist keine Kuriosität von LV.
Wenn du die Zahl 84,96 eingibst, dann ist diese Zahl auch 84,96. Wenn die Zahl z.B. durch eine mathematische Operation entstanden ist, dann wird sie möglicherweise nur gerundet dargestellt. z.B. mit 6 signifikanten Stellen. Tatsächlich ist diese Zahl möglicherweise aber 84,9600000000001283. Auch dieser Effekt fällt unter die Natur der Zahl - wenn auch nur deren Darstellung.

Das ist mir auch klar. Nur entsteht die Zahl bei mir durch das Einlesen aus einem String. Und bei der String-Zahl Konvertierung habe ich genau zwei Nachkommastellen als Genauigkeit. Oder kann dort, auch wenn man es anders angibt, eine "krumme" Zahl, wie Du sie als Beispiel hattest entstehen?
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Wieso funktioniert das "=" nicht? - Xaran - 18.03.2009 07:46

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Die Kommunikation mit dem VI funktioniert nicht Benutzer02 11 6.145 18.10.2021 09:25
Letzter Beitrag: TpunktN
Sad VI funktioniert und EXE nicht Mostro2502 21 9.500 17.06.2020 09:55
Letzter Beitrag: Mostro2502
  Inhalt einer Baumstruktur über Methodenknoten speichern funktioniert nicht... enone 2 3.886 10.05.2019 10:19
Letzter Beitrag: enone
  Schrittmotor Nema 17 per LabVIEW funktioniert nicht! TTT 5 6.247 27.04.2018 08:20
Letzter Beitrag: Freddy
  Formelknoten "funktioniert nicht" Peppiiii 8 5.976 18.04.2017 17:42
Letzter Beitrag: GerdW
  Code funktioniert als SubVI nicht mehr!?! Labview Newbie 4 5.991 14.05.2016 11:26
Letzter Beitrag: IchSelbst

Gehe zu: