123,45 + 100,00 = 223.44999999999999

[marcelx]

Hi,

habe folgendes Problem mit einem Addition ergibt 223.44999999999999:

Code: Alles auswählen

a.s = Chr(34)+"123,45"+Chr(34)
b.s = Chr(34)+"100,00"+Chr(34)

a = ReplaceString(ReplaceString(a, Chr(34), ""), ",", ".")
b = ReplaceString(ReplaceString(b, Chr(34), ""), ",", ".")

vala.d = ValD(a)
valb.d = ValD(b)

Debug vala
Debug valb
Debug vala + valb  ; 223.44999999999999
Debug StrF((vala + valb), 2) ; 223,45 OK

[Lord]

Hi!

vala + valb ; 223.44999999999999

-> Binärdarstellung kann 223,45 nicht exakt abbilden

StrF((vala + valb), 2)

-> Hilfedatei: The number will be rounded, if 'NbDecimal' is smaller than existing decimal places of 'Value.f'.

StrF((vala + valb))

-> zeigt z.B. "223.4499969482" an.

[NicTheQuick]

Siehe Wikipedia: https://de.wikipedia.org/wiki/Gleitkomm ... Grundlagen

Das gilt für alle Programmiersprachen, die mit Fließkommazahlen arbeiten.

[Lord]

Kann man z.B. mit Integerrechnung lösen:

Code: Alles auswählen

exp=2; Nachkommastellem
d=Pow(10, exp); Devisor
Debug d

a.s = Chr(34)+"123,45"+Chr(34)
b.s = Chr(34)+"100,00"+Chr(34)

a = ReplaceString(ReplaceString(a, Chr(34), ""), ",", ".")
b = ReplaceString(ReplaceString(b, Chr(34), ""), ",", ".")

Debug a
Debug b

a1.f=ValF(a)*d
b1.f=ValF(b)*d

ab.s=StrF((a1+b1))

Debug ab
Debug Str(Val(ab)/d)+","+Right(ab,exp)

Edit: aus "Intergerrechnung" "Integerrechnung" gemacht

[marcelx]

Danke - mir ist es bekannt mit den Fließkommazahlen; wie kann ich lösen, dass die Summe stimmt?

[NicTheQuick]

Danke - mir ist es bekannt mit den Fließkommazahlen; wie kann ich lösen, dass die Summe stimmt?

Wenn dir das schon bekannt ist, dann siehst du ja, dass die Summe stimmt. Du musst sie eben richtig runden lassen beim Anzeigen.

[marcelx]

Danke Lord,
damit kann ich leben