Seite 3 von 3

Re: Float als ProcedureReturn Wert

Verfasst: 24.01.2010 00:17
von Josh
Thorium hat geschrieben:
Josh hat geschrieben: ich hab hier nur eine alte kiste stehn, komm aber auf ganz andere ergebnisse

2297 zu 1750

also weit weg von dem 10 fachen
Wie du schon geschrieben hast, liegt es an der alten Kiste. Von CPU-Typ zu CPU-Typ variiert wie viele Zyklen bestimmte Instruktionen benötigen.
hab wieder mal den debugger auszuschalten vergessen :mrgreen:

ohne debugger komm ich als besten wert bei drei versuchen auf 672 zu 46, wobei gerade der zweite wert erheblich schwankt (46 bis 63). wundert mich eigentlich, die kiste ist mindestens schon 6-7 jahre alt.

Re: Float als ProcedureReturn Wert

Verfasst: 24.01.2010 00:53
von Kaeru Gaman
Josh hat geschrieben:hab wieder mal den debugger auszuschalten vergessen :mrgreen:
:mrgreen: ich wußte es! :lol:
Josh hat geschrieben:ohne debugger komm ich als besten wert bei drei versuchen auf 672 zu 46, wobei gerade der zweite wert erheblich schwankt (46 bis 63).
dann erhöhe die anzahl meßschritte.
im zweistelligen ms-bereich kommst du in die Ungenauigkeit der Timeslices, die sind nur 12-16ms genau.
46-63 bedeutet, der wert ist eigentlich um die 55, aber manchmal erwischt du zufällig eine timeslice mehr oder weniger.

wenn du so mißt, dass das ergebnis mindestens dreistellige ms-werte ausgibt, fällt die ungenauigkeit weniger ins gewicht.