Code: Alles auswählen
MessageRequester ("StrF-Test", StrF(0.98,1))"Die Zahl wird nicht gerundet, sondern abgeschnitten."
Ich sage: stimmt nicht!
Ärgerlich, wenn man sich darauf verlässt!Bug mit StrF()
Bug mit StrF()
Das ist schon in Version 3.94 buggy und ich möchte hier die Gelegenheit nutzen:
Die Hilfe sagt zu StrF():
"Die Zahl wird nicht gerundet, sondern abgeschnitten."
Ich sage: stimmt nicht! Ärgerlich, wenn man sich darauf verlässt!
"Die Zahl wird nicht gerundet, sondern abgeschnitten."
Ich sage: stimmt nicht!
Ärgerlich, wenn man sich darauf verlässt!
Auf der einen Seite will man mit den vielen Str()-Funktionen (StrQ(), StrF(), StrD() usw.) die Geschwindigkeit der Str()-Funktionen nicht gefährden (hab ich mir erst kürzlich im engl. Forum erklären lassen), auf der anderen Seite baut man eine Runden-Routine in die Funktion ein, die sicher nicht gerade geschwindigkeitsfördernd ist.... verstehe das wer will...
-
DarkDragon
- Beiträge: 6291
- Registriert: 29.08.2004 08:37
- Computerausstattung: Hoffentlich bald keine mehr
- Kontaktdaten:
Außerdem guckt euch das hier mal an:Deeem2031 hat geschrieben:Das Runden da rauszubekommen wäre bestimmt nich einfach, schließlich ist das nur ein Aufruf von sprintf_("%f",...)
Code: Alles auswählen
a.f = 0.05
Debug StrF(a.f, 20)
?Das ganze hat mit der Ungenauigkeit von Floats im IEEE 754 zu tun.
Angenommen es gäbe einen Algorithmus mit imaginärer Laufzeit O(i * n), dann gilt O((i * n)^2) = O(-1 * n^2) d.h. wenn man diesen Algorithmus verschachtelt ist er fertig, bevor er angefangen hat.
-
freedimension
- Admin
- Beiträge: 1987
- Registriert: 08.09.2004 13:19
- Wohnort: Ludwigsburg
- Kontaktdaten:
