int rundungsfehler... in dem bereich?

Anfängerfragen zum Programmieren mit PureBasic.
Benutzeravatar
Josh
Beiträge: 1028
Registriert: 04.08.2009 17:24

Re: int rundungsfehler... in dem bereich?

Beitrag von Josh »

und warum nicht einfach die mathematischen funktionen verwenden? im gegensatz zu VB scheint Round in PB ja richtig zu funktionieren.
Benutzeravatar
mk-soft
Beiträge: 3855
Registriert: 24.11.2004 13:12
Wohnort: Germany

Re: int rundungsfehler... in dem bereich?

Beitrag von mk-soft »

Float oder Double sind in einer Matrix abgelegt und haben immer eine ungenauigkeit.
Den wert zum Beispiel 0,7 wird somit annährend abgelegt.
Siehe Wikipedia http://de.wikipedia.org/wiki/Gleitkommazahl

ff :wink:
Alles ist möglich, fragt sich nur wie...
Projekte ThreadToGUI / EventDesigner V3 / OOP-BaseClass-Modul
Downloads auf MyWebspace / OneDrive
broozar
Beiträge: 97
Registriert: 08.03.2010 15:53
Wohnort: Berlin
Kontaktdaten:

Re: int rundungsfehler... in dem bereich?

Beitrag von broozar »

schon klar, mich hat das nur mit den zwischenergebnissen irritiert.

dass so eine frage gleich so eine welle antworten lostritt :lol:
iMac 27" quad i7 radeon 4850 8gig ram
PB 4.4 in parallelsVM @ 2 cores 3072megs ram 32megs vram win7
Antworten