Seite 1 von 3
Grosse Zahlen ...
Verfasst: 04.08.2008 08:50
von MikeS
Eigentlich sollte ja PB4.20 bei der Zahl
test.q = 12 * POW(16,7) -> 3221225472 liefern, was ich jedoch erhalte ist
eine negative Zahl.
Egal ob ich die Variable als .d oder .q deklariere, passiert das Gleiche.
Vielleicht kann mir jemand helfen ... Danke
mikes
Verfasst: 04.08.2008 08:54
von Rings
Code: Alles auswählen
test.q = 12 * Pow(16,7)
Debug test
dummy.s=StrQ(test)
Debug dummy
liefert die richtige zahl
PB 4.2 Final
Verfasst: 04.08.2008 09:10
von MikeS
Klasse ! Danke !
mikes
Verfasst: 04.08.2008 09:31
von Kaeru Gaman
falsche ValueToString verwendet, wa?
Re: Grosse Zahlen ...
Verfasst: 04.08.2008 09:32
von Little John
MikeS hat geschrieben:Eigentlich sollte ja PB4.20 bei der Zahl
test.q = 12 * POW(16,7) -> 3221225472 liefern, was ich jedoch erhalte ist
eine negative Zahl.
Ich erhalte -- wie Rings offenbar auch -- genau die gewünschte positive Zahl. Wie machst Du es, dass PB 4.20 für obige Zeile eine negative Zahl liefert?
Welche negative Zahl bekommst Du?
Gruß, Little John
Re: Grosse Zahlen ...
Verfasst: 04.08.2008 09:38
von Rings
Little John hat geschrieben:MikeS hat geschrieben:Eigentlich sollte ja PB4.20 bei der Zahl
test.q = 12 * POW(16,7) -> 3221225472 liefern, was ich jedoch erhalte ist
eine negative Zahl.
Ich erhalte -- wie Rings offenbar auch -- genau die gewünschte positive Zahl. Wie machst Du es, dass PB 4.20 für obige Zeile eine negative Zahl liefert?
Welche negative Zahl bekommst Du?
Gruß, Little John
Code: Alles auswählen
test.q = 12 * Pow(16,7)
Debug test
dummy.s=Str(test)
Debug dummy
Verfasst: 04.08.2008 09:51
von Little John
Ach soooo.
Davon dass er die Zahl in einen String umwandelt, hatte er kein Wort geschrieben ....
Na ja, erfahrene Boardmtglieder wie Du und KG kennen offenbar die Standardprobleme schon auswendig.
Gruß, Little John
Verfasst: 04.08.2008 10:08
von ts-soft
Das "StandardProblem" gehört ja bald der Vergangenheit an
Verfasst: 04.08.2008 10:25
von Little John
Ihr sprecht in Rätseln, Sire.
Gruß, Little john
Verfasst: 04.08.2008 12:24
von ts-soft
Little John hat geschrieben:Ihr sprecht in Rätseln, Sire.
Gruß, Little john
Naja, ich hab da eine "Vorahnung", das dieses Problem in der nächsten
Version nicht mehr existiert