INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Zahlenverwirrung // 2.85 != 2.85?



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

17.04.2012, 14:05
Beitrag #1

Kasi Offline
LVF-Stammgast
***


Beiträge: 342
Registriert seit: Dec 2010

6 - 2009
2005
DE_EN

79194
Deutschland
Zahlenverwirrung // 2.85 != 2.85?
Hallo zusammen,

nachdem ich heute versucht habe, ein Problem bei einer Arraysuche einzugrenzen konnte ich es irgendwann auf folgendes in meinen Augen verwirrendes VI runterkochen:

8.0 .vi  un_equal_numbers.vi (Größe: 6,97 KB / Downloads: 185)

Im oberen Vergleich ist der Code, der letztlich die fehlgeschlagene Ursache verursacht, und mir sagt, dass 2.85 != 2.85 sei. Unten habe ich dann testweise den Inhalt der einen Konstante in den der anderen kopiert, was eine Gleichheit der Konstanten bewirkt.
Die Frage ist: Was unterscheidet die obigen Konstanten voneinander? Beide sind DBL, beide sind nicht durch irgendwelche Formatierungen verkürzt/verändert, ich habe keine Ahnung, wieso Labview mir meldet, dass sie ungleich sind.

Kann mir jemand den Grund nennen? Danke!
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Zahlenverwirrung // 2.85 != 2.85? - Kasi - 17.04.2012 14:05

Gehe zu: