[PB 5.30 x64] StrU(i, #PB_Integer): falsches Ergebnis. U.a.

[NicTheQuick]

Hallo,

könnt ihr bitte mal schauen, ob der Bug bei euch auch auftritt? Ihr braucht ein 64-Bit System und natürlich auch PB in der 64-Bit Version.

Hier kommt ein falscher Wert raus.

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Integer)

Hier der richtige.

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Quad)

Außerdem kommt hier kein CompilerError wegen einer zu hohen Zahl:

Code: Alles auswählen

Define i.q = 123456789012345678901
Debug StrU(i, #PB_Quad)

Diese Zahl ist nämlich größer als 64 Bit und sollte vom Compiler zurück gewiesen werden. Schreibt man noch eine 2 dahinter, funktioniert das auch.

Andererseits geht das hier zwar nicht:

Code: Alles auswählen

Define i.d = 123456789012345670000.0
Debug i

Aber so schon:

Code: Alles auswählen

Define i.d = 12345678901234567.0
i * 10000
Debug i

Und so auch:

Code: Alles auswählen

Define i.d = ValD("123456789012345670000.0")
Debug i

[RSBasic]

Getestet mit: PB 5.31 x64

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Integer)

3755744309

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Quad)

12345678901

Code: Alles auswählen

Define i.q = 123456789012345678901
Debug StrU(i, #PB_Quad)

12776324570088369205

Code: Alles auswählen

Define i.d = 123456789012345670000.0
Debug i

Numerical overflow: too many digits.

Code: Alles auswählen

Define i.d = 12345678901234567.0
i * 10000
Debug i

123456789012345680000.0

Code: Alles auswählen

Define i.d = ValD("123456789012345670000.0")
Debug i

123456789012345670000.0

[NicTheQuick]

Danke, RSBasic.

Das ist jetzt sogar noch interessanter geworden. Bei mir sieht es nämlich bei den letzten Tests so aus:

Code: Alles auswählen

Define i.d = ValD("123456789012345670000.0")
Debug i

123456789012345667584.0

[Nino]

Hallo,

könnt ihr bitte mal schauen, ob der Bug bei euch auch auftritt? Ihr braucht ein 64-Bit System und natürlich auch PB in der 64-Bit Version.

Hier kommt ein falscher Wert raus.

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Integer)

Hier der richtige.

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Quad)

Das kann ich bestätigen (PB 5.31 x64) unter Windows 7).

Allerdings:

Konvertiert eine vorzeichenlose Zahl in einen String.

Zwar ist 12345678901 vorzeichenlos, aber evtl. ist mit dem Satz in der Hilfe nicht die Zahl selbst gemeint, sondern der Variablentyp. Dieser ist in Deinem Beispiel ja Integer und damit vorzeichenbehaftet. Nur so eine Idee ...

[NicTheQuick]

Allerdings:

Konvertiert eine vorzeichenlose Zahl in einen String.

Zwar ist 12345678901 vorzeichenlos, aber evtl. ist mit dem Satz in der Hilfe nicht die Zahl selbst gemeint, sondern der Variablentyp. Dieser ist in Deinem Beispiel ja Integer und damit vorzeichenbehaftet. Nur so eine Idee ...

'StrU()' wurde eingefügt um eigentlich negative Zahlenwerte so in einen String umwandeln zu können als ob sie in einer unsigned Variablen gespeichert wären. Siehe auch dieses Beispiel:

Code: Alles auswählen

Define i.l = -1
Debug Str(i)
Debug StrU(i, #PB_Long)

[Nino]

@NickTheQuick:
Danke für die Erklärung!

Dann ist aber der Satz aus der Hilfe, den ich zitiert hatte, komplett irreführend. Ebenso wie dieser Satz:

Ganzzahlen (mit Vorzeichen) müssen mit dem Befehl Str() [...] konvertiert werden.

In der Hilfe zu StrU() sollte wohl besser etwa folgendes stehen:
"Konvertiert eine Ganzzahl (Quad) in einen String. Das Ergebnis der Konvertierung ist immer vorzeichenlos.
Um bei der Konvertierung einer vorzeichenbehafteten Ganzzahl in einen String das Vorzeichen zu erhalten, muss der Befehl Str() benutzt werden."

[STARGÅTE]

1. Code: Alles auswählen

   Define i.i = 12345678901
   Debug StrU(i, #PB_Integer)

   Für StrU() ist #PB_Integer garnicht definiert (zumindest laut Hilfe!)

2. Code: Alles auswählen

   Define i.q = 123456789012345678901

   Ja hier stimme ich dir zu, es sollte wie bei Longs ein Fehler gemeldet werden.

3. Code: Alles auswählen

   Define i.d = 123456789012345670000.0
   Debug i

   Hier kann ich wieder nicht zustimmen. PB erlaubt generell nur zwanzig Präzisionsstellen.
   Klar kannst du mit Doubles sehr große Zahlen definieren, dann aber so:

   Code: Alles auswählen

   Define i.d = 12345678901234567e4
   Debug i

[NicTheQuick]

Code: Alles auswählen

Define i.i = 12345678901
Debug StrU(i, #PB_Integer)

Für StrU() ist #PB_Integer garnicht definiert (zumindest laut Hilfe!)

Du hast Recht. Da war ich wohl zu naiv.

Code: Alles auswählen

Define i.d = 123456789012345670000.0
Debug i

Hier kann ich wieder nicht zustimmen. PB erlaubt generell nur zwanzig Präzisionsstellen.
Klar kannst du mit Doubles sehr große Zahlen definieren, dann aber so:

Code: Alles auswählen

Define i.d = 12345678901234567e4
Debug i

Ich finde es halt etwas inkonsequent, dass ValD() nichts gegen ewig lange Zahlenreihen hat, der Compiler selbst aber schon.