Zahl immer negativ (-Abs ())

[Kaeru Gaman]

wie eine float gespeichert wird, weiss ich...

also ist ABS() für words sicher, weil ein word so lang ist wie der matrizenteil einer float....

[Froggerprogger]

Bei floats werden 23 Bits für die 'Mantisse' genutzt. Wegen zzgl. dem 'hidden bit' können somit sämtliche Ganzzahlen bis +/- 2^24 = +/- 16777216 dargestellt werden. Danach geht es erstmal in Zweierschritten weiter.

Code: Alles auswählen

x.l = 16777217
Debug x
Debug Abs(x)

x.l = -16777217
Debug x
Debug Abs(x)

[Kaeru Gaman]

Mantisse? was hat denn ne Gottesanbeterin damit zu tun....?


...nagut, ich kann ja auch net alles wissen....

aber immerhin schonmal ne gute info von dir, wie weit ABS() auch für longs zuverlässig ist...

[freedimension]

Mantisse? was hat denn ne Gottesanbeterin damit zu tun....?


...nagut, ich kann ja auch net alles wissen....

aber immerhin schonmal ne gute info von dir, wie weit ABS() auch für longs zuverlässig ist...

wie eine float gespeichert wird, weiss ich...

Irgendwas wiederspricht sich hier, findest du nicht auch?

Zur Weiterbildung empfiehlt sich folgende Lektüre:
http://de.wikipedia.org/wiki/Flie%C3%9Fkommazahl

[Kaeru Gaman]

wie eine float gespeichert wird, weiss ich...

war meine antwort auf

Floats benutzen, anders als Longs, nur einen Teil der 32 Bits zur Darstellung der eigentlichen Zahl, der Rest geht drauf für Exponent, Vorzeichen ...

also, soviel wusste ich vorher auch schon, und du rückst hier auch nicht mit bit-belegungen raus.

wozu soll ich mir für jede float die bit-belegung merken?

also, für 16bit (das hätte ich mir dann schon vor jahren genau merken müssen)
für 32bit, für 64bit, für 128bit....

...müßig oder?
1) wenn der wertebereich für die Variablen in der Help jeder entwicklungsumgebung drinstehen,
2) wenn ich normalerweise soweit wie möglich mit fixed arbeite statt mit float und
3) wenn bei anderen Programmiersprachen das ABS() funktioniert,
sodass man sich um die bitbelegung von floats in diesem zusammenhang
keinen Kopp machen muss........?