INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Ungenauigkeit von Floatingpoint (allgemein)



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

26.07.2010, 12:20
Beitrag #9

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
Ungenauigkeit von Floatingpoint (allgemein)
' schrieb:Ich vergleiche die Zahlen nicht, aber ich muss eine sehr kleine Kommazahl und eine kleine Kommazahl addieren.
s. Gerd
' schrieb:Da gibt es kein Weg dran vorbei? Es wird doch fast alles mit Computern berechnet, das kann ich mir nicht vorstellen.
DOCH, dem IST so!!!
' schrieb:Taschenrechner bekommen es doch auch hin, es muss dazu doch eine Lösung in LabView gebenSad
Dieser Vergleich hinkt bzw. ist nicht zulässig. Ein Taschenrechner rechnet anders als eine FPU eines Computers.
http://www.wer-weiss-was.de/theme50/article2510135.html

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
Ungenauigkeit von Floatingpoint (allgemein) - jg - 26.07.2010 12:20

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LV allgemein: Labels der VIs im block diagram immer anzeigen laumann 10 8.688 05.02.2016 09:44
Letzter Beitrag: Freddy
  Systeminformationen Allgemein ermitteln dbuckl 14 8.058 24.03.2015 10:20
Letzter Beitrag: GerdW
  [Allgemein] Hilfe bei Euler-Winkeln Yantit 1 2.978 09.03.2011 08:17
Letzter Beitrag: Yantit
  LabVIEW Allgemein kcccp 11 10.376 06.07.2009 15:00
Letzter Beitrag: kcccp
  DataSocket allgemein Snoop2000 3 4.634 16.04.2008 03:58
Letzter Beitrag: thomas.sandrisser
  Reihenfolge von 2 Case-Strukturen bzw. Case-Struktur allgemein Bob 2 5.162 10.08.2007 14:52
Letzter Beitrag: Bob

Gehe zu: