Seite 2 von 2

Re: int rundungsfehler... in dem bereich?

Verfasst: 21.03.2010 07:45
von Josh
und warum nicht einfach die mathematischen funktionen verwenden? im gegensatz zu VB scheint Round in PB ja richtig zu funktionieren.

Re: int rundungsfehler... in dem bereich?

Verfasst: 21.03.2010 13:12
von mk-soft
Float oder Double sind in einer Matrix abgelegt und haben immer eine ungenauigkeit.
Den wert zum Beispiel 0,7 wird somit annährend abgelegt.
Siehe Wikipedia http://de.wikipedia.org/wiki/Gleitkommazahl

ff :wink:

Re: int rundungsfehler... in dem bereich?

Verfasst: 21.03.2010 13:44
von broozar
schon klar, mich hat das nur mit den zwischenergebnissen irritiert.

dass so eine frage gleich so eine welle antworten lostritt :lol: