INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

wie kann ich Werte runden?



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

27.04.2006, 16:16
Beitrag #1

Chriz Offline
LVF-Grünschnabel
*


Beiträge: 26
Registriert seit: Nov 2005



kA



wie kann ich Werte runden?
Hi,
ich habe ein VI in dem ich zwei Werte (double 64-bit reell) auf 2 Komastellen miteinander vergleichen will. Der eine Wert wird berechnet, der andere von eine ADwin-Karte übergeben. Mein Problem ist dass ich keinen Vergleich durchführen kann da meine beiden Werte meist im hinteren Komabereich unterschiedlich sind und sie somit fast nie gleich werden.

Ich hab nun schon versucht mit der Funktion "auf nächst grössere Zahl runden" die Werte gleich zu bekommen, das Problem ist aber dass die Werte vorwärts- und rückwärts laufen, somit würde es mit dem grösseren Wert nur beim vorwärts laufen gehen, beim rückwärtslaufen nur mit dem nächstkleineren.

Nun brauch ich also eine Funktion die nicht auf den nächsten grössere oder kleineren Wert rundet, sondern genau eben bei xx,5 rundet.

Wo bekomme ich sowas her, als funktion habe ich es nicht in LV gefunden.

Hab Euch mal das Bild angehängt wie ich es zuerst versucht habe - hat aber nicht geklappt (das mit den multiplikation und division mit 100 ist n ur weil ich zwei Komastellen benötige!)

Gruß Christoph


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
27.04.2006, 16:42
Beitrag #2

Svenni Offline
LVF-Gelegenheitsschreiber
**


Beiträge: 227
Registriert seit: Mar 2005

7.1, 8.0, 8.2, 8.21, 8.5, 8.6, 2009, 2010, 2011, 2012, 2013, 2014
2000
DE

23843
Deutschland
wie kann ich Werte runden?
Hallo Chriz,

ich hätte dein VI auch so aufgebaut, jedoch hätte ich ein anderes Runden genommen. Diese Funktion rundet ab x,5 auf und vorher ab.


Gruß
sven


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
27.04.2006, 16:57
Beitrag #3

eg Offline
LVF-SeniorMod


Beiträge: 3.868
Registriert seit: Nov 2005

2016
2003
kA

66111
Deutschland
wie kann ich Werte runden?
Genau, sieht gut aus.

Ich wollte auch Multiplikation mit 100 vorschlagen und dann in Integer umwandeln und vergleichen vorschlagen.

Gruss, Eugen
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
28.04.2006, 08:24
Beitrag #4

Lucki Offline
Tech.Exp.2.Klasse
LVF-Team

Beiträge: 7.699
Registriert seit: Mar 2006

LV 2016-18 prof.
1995
DE

01108
Deutschland
wie kann ich Werte runden?
Mit Deinem Programm hast Du, was die Lösung Deines Problems betrifft, eine falsche Spur gelegt. Mit Runden geht das nicht. Beispiel Programm Svenni: Wenn die beiden Zahlen 10,00501 und 10,00499 sind, sind sie nach Deinem Kriterium gleich, das Programm liefert aber als Ergebnis "ungleich".
Das Problem ist doch ganz einfach: Wenn die Betrag der Differenz der beiden Zahlen nicht mehr al 0,01 ist, gelten sie als gleich, andernfalls nicht. Mit Runden hat das doch gar nichts zu tun.
Ein anderes sinnvolle Vorgabe könnte sein, das nicht die absolute, sondern die relative Abweichung zählt, daß also die Zahlen z.B. innerhalb einer Toleranz von einem Promille gleich sein sollen. Aber das wolltest Du ja nicht. Das läßt sich aber genau so einfach machen.
Korrektur: Im Bild muß natürlich 0.01 als Vergleichswert genommen werden.


Angehängte Datei(en) Thumbnail(s)
   
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
28.04.2006, 13:09
Beitrag #5

Chriz Offline
LVF-Grünschnabel
*


Beiträge: 26
Registriert seit: Nov 2005



kA



wie kann ich Werte runden?
Zitat:Wenn die beiden Zahlen 10,00501 und 10,00499 sind, sind sie nach Deinem Kriterium gleich, das Programm liefert aber als Ergebnis "ungleich".

Genau das war ja mein Problem! - aber jetzt wo ich Deine Lösung sehe denke ich dass ich da auch von alleine drauf kommen müssen hätte *schäm* :roll:

Jetzt isses klar warum das nicht funktioniert hat!

Danke
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  LED-Anzeigeelement mit runden Ecken nixblicker 9 5.489 30.10.2020 09:23
Letzter Beitrag: Lucki
  Wie kann ich die 0 Werte zum letztes nicht-0 Werte ersetzen? Laura111 1 3.183 17.04.2013 10:20
Letzter Beitrag: GerdW
  runden IEEE-Standard dimitri84 7 5.743 19.10.2012 10:30
Letzter Beitrag: dimitri84
  Mathematisch runden DrHoas 3 6.987 27.04.2012 14:52
Letzter Beitrag: GerdW
  Wie kann man Hex Werte 1:1 in DEZ Werte konvertieren? warantor 24 16.763 20.06.2009 15:22
Letzter Beitrag: warantor
  Eine zahl runden kcccp 3 13.838 10.06.2009 15:06
Letzter Beitrag: kcccp

Gehe zu: