int rundungsfehler... in dem bereich?
Re: int rundungsfehler... in dem bereich?
und warum nicht einfach die mathematischen funktionen verwenden? im gegensatz zu VB scheint Round in PB ja richtig zu funktionieren.
Re: int rundungsfehler... in dem bereich?
Float oder Double sind in einer Matrix abgelegt und haben immer eine ungenauigkeit.
Den wert zum Beispiel 0,7 wird somit annährend abgelegt.
Siehe Wikipedia http://de.wikipedia.org/wiki/Gleitkommazahl
ff
Den wert zum Beispiel 0,7 wird somit annährend abgelegt.
Siehe Wikipedia http://de.wikipedia.org/wiki/Gleitkommazahl
ff

Alles ist möglich, fragt sich nur wie...
Projekte ThreadToGUI / EventDesigner V3 / OOP-BaseClass-Modul
Downloads auf MyWebspace / OneDrive
Projekte ThreadToGUI / EventDesigner V3 / OOP-BaseClass-Modul
Downloads auf MyWebspace / OneDrive
Re: int rundungsfehler... in dem bereich?
schon klar, mich hat das nur mit den zwischenergebnissen irritiert.
dass so eine frage gleich so eine welle antworten lostritt
dass so eine frage gleich so eine welle antworten lostritt

iMac 27" quad i7 radeon 4850 8gig ram
PB 4.4 in parallelsVM @ 2 cores 3072megs ram 32megs vram win7
PB 4.4 in parallelsVM @ 2 cores 3072megs ram 32megs vram win7