Fließkommaberechnung explizit erzwingen?

[The Rookie]

Hallo zusammen,

aus Geschwindigkeitsgründen sollte man ja hauptsächlich mit LONGs arbeiten.
Das Problem was ich habe, ist aber, das PB bei Verwendung von LONGs in Ausdrücken auch auschließlich im Ganzzahlenbereich arbeitet.

So ergibt z.B. '1 / 2 * 10' als Ergebnis '0' - statt '5'.
Auch ist '1 / 2 * 10' dadurch ja nicht gleich '1 * 10 / 2' - was ja methematisch gesehen eine Katastrophe ist.

Wie kann man PB denn in einem solchen Fall dazu ZWINGEN eine Berechnung mit Bruchzahlen durchzuführen?

Code: Alles auswählen

a.l = 1 
b.l = 2 
c.l = 10 
d.l = a/b*c       ; <=  Ergebnis = '0' 
e.l = 0.0+a/b*c   ; <=  Ergebnis = '5'
Debug d
Debug e

Eine Möglichkeit habe ich schon gefunden, und zwar durch eine zusätzliche Addition von 0.0 (also Debug 0.0+a/b*c) - wodurch ich dann ein korrektes Ergebnis erhalte.
Aber das kann doch nicht wirklich eine Lösung sein ... oder?

Dank und Gruß,
The Rookie.

[stbi]

Code: Alles auswählen

 
d.l = a/b*c       ; <=  Ergebnis = '0' 
e.l = 0.0+a/b*c   ; <=  Ergebnis = '5.0'

mach mal

Code: Alles auswählen

 
d.f = a/b*c  
e.f = 0.0+a/b*c 

[The Rookie]

Sorry ... ich habe vergessen zu erwähnen, das ich als Ergebnisvariable natürlich auch nur einen Longwert benutzen möchte.
Die dadurch entstehende Ungenauigkeit beim Endergebnis ist oft genug ja auch vollkommen ausreichend und in o.g. Beispiel ist das Ergebnis ja ohnehin ohne Restwert.

d.f und e.f sind daher natürlich nicht das, was ich gesucht habe, da ich ja wie gesagt in einen Integer-Wert berechnen möchte.

[DrShrek]

Verwende doch einfach eine entsprechende 'Vergrösserung':

Code: Alles auswählen

blower.l= 10
a.l = 1 
b.l = 2 
c.l = 10 
d.l = blower*a/b*c       ; <=  Ergebnis = '50' 

Debug d/blower           ; <=  Ergebnis = '5' 

[remi_meier]

Int() ?

[hardfalcon]

Mach die Division halt einfach zum Schluss. Obs jetzt 1*10/2 oder 1/2*10 ist, das is doche egal...

[Kaeru Gaman]

genau.

1) das was hardfalcon vorgeschlagen hat, ist grundsätzlich wichtig.
wenn du nicht zwischendrin floats verwenden willst, sondern durchgehend integer,
mach die teilung zuletzt.

2) Dr.Shreck hat ein verfahren angeschnitten, dass man auch "Fixkomma" nennt.
hierbei arbeitest du mit einer grundsätzlichen kommaverschiebung,
also, alle werte die du verarbeitest sind z.b. 1000mal so groß,
erst bei der ausgabe rundest du oder gibst dementsprechen z.b. 3 nachkommastellen aus.
hier musst du besonders auf overflows achten, also darauf,
dass du nicht nach oben aus dem wertebereich hinausrechnest.

[hardfalcon]

Ah, endlich hab ich auch mal Recht... Jetzt gänn ich mir erst mal nen leckeren

[Karl]

Wenn es um Division durch 2 geht, kann man die Longs problemlos nach rechts shiften:

Code: Alles auswählen

test.l = 10
MessageRequester("Test", Str(test >> 1))

Gruß Karl

[Kaeru Gaman]

was is nun eigentlich damit...

gibts noch ne antwort von Rookie?