INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

runden IEEE-Standard



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

18.10.2012, 20:53 (Dieser Beitrag wurde zuletzt bearbeitet: 18.10.2012 21:05 von jg.)
Beitrag #2

jg Offline
CLA & CLED
LVF-Team

Beiträge: 15.864
Registriert seit: Jun 2005

20xx / 8.x
1999
EN

Franken...
Deutschland
RE: runden IEEE-Standard
Schau dir mal die deine 1.515 mit 16 Nachkommastellen an, dann steht da 1.5149999999999999, auf 2 Stellen im String gerundet gleich 1.51.

EDIT: Nach deiner Multiplikation mit 100 kommt 151.5 raus (nicht wundern, schließlich numerische Operation und Fließkommazahlen), das gibt dann nach deiner Rundung 152.

Gruß, Jens

Wer die erhabene Weisheit der Mathematik tadelt, nährt sich von Verwirrung. (Leonardo da Vinci)

!! BITTE !! stellt mir keine Fragen über PM, dafür ist das Forum da - andere haben vielleicht auch Interesse an der Antwort!

Einführende Links zu LabVIEW, s. GerdWs Signatur.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Nachrichten in diesem Thema
runden IEEE-Standard - dimitri84 - 18.10.2012, 20:26
RE: runden IEEE-Standard - jg - 18.10.2012 20:53
RE: runden IEEE-Standard - dimitri84 - 18.10.2012, 21:23
RE: runden IEEE-Standard - Y-P - 19.10.2012, 06:21
RE: runden IEEE-Standard - GerdW - 19.10.2012, 08:41
RE: runden IEEE-Standard - dimitri84 - 19.10.2012, 09:22
RE: runden IEEE-Standard - GerdW - 19.10.2012, 09:36
RE: runden IEEE-Standard - dimitri84 - 19.10.2012, 10:30

Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LED-Anzeigeelement mit runden Ecken nixblicker 9 5.788 30.10.2020 09:23
Letzter Beitrag: Lucki
  Tastenkombination "aktuellen Wert als Standard" A.Limbach 2 3.908 05.12.2014 11:03
Letzter Beitrag: A.Limbach
  Silber-Schema als Standard bei DAQmx zig 5 5.288 26.08.2014 10:25
Letzter Beitrag: jg
  Dateien mit Windows-Standard-Programm öffnen DrHoas 5 6.210 17.09.2013 15:59
Letzter Beitrag: GerdW
  Strict TypeDef in Standard VI abändern Wendigo 6 7.355 12.12.2012 21:53
Letzter Beitrag: jg
  Eigenschaften des xy-Graphen als Standard setzen cuber1 5 5.326 22.11.2012 17:32
Letzter Beitrag: cuber1

Gehe zu: