Seite 2 von 2
Re: int rundungsfehler... in dem bereich?
Verfasst: 21.03.2010 07:45
von Josh
und warum nicht einfach die mathematischen funktionen verwenden? im gegensatz zu VB scheint Round in PB ja richtig zu funktionieren.
Re: int rundungsfehler... in dem bereich?
Verfasst: 21.03.2010 13:12
von mk-soft
Float oder Double sind in einer Matrix abgelegt und haben immer eine ungenauigkeit.
Den wert zum Beispiel 0,7 wird somit annährend abgelegt.
Siehe Wikipedia
http://de.wikipedia.org/wiki/Gleitkommazahl
ff

Re: int rundungsfehler... in dem bereich?
Verfasst: 21.03.2010 13:44
von broozar
schon klar, mich hat das nur mit den zwischenergebnissen irritiert.
dass so eine frage gleich so eine welle antworten lostritt
