Totale Falschmeldung!

[PB42]

Hallo, eine Verzweigung soll reagieren, wenn der zuvor gemessene Wert 0 ist. Das tut sie auch... allerdings wenn der zuvor gemessene Wert alles andere als 0 ist. Der Code:

Code: Alles auswählen

bq.d = 57320043

If Pow(bq.d,0.5) - Int(Pow(bq.d,0.5)) = 0

Debug Pow(bq.d,0.5) - Int(Pow(bq.d,0.5)) ;0.000132....

EndIf

Die Quadratwurzel von 57320043 geht also eindeutig NICHT auf und trotzdem läuft die Verzweigung so, als würde sie aufgehen. Dabei zeigt doch der Debugger höchstselber an, daß der Wert NICHT 0 ist. Habt Ihr sowas schonmal erlebt???

PB42

[Kaeru Gaman]

das ist wohl ein Typecasting Problem.

Code: Alles auswählen

bq.d = 57320043

a.d = Pow(bq.d,0.5)
b.d = Int(Pow(bq.d,0.5))

Debug a
Debug b

If a - b = 0
  Debug "=0"
Else
  Debug "!=0"
EndIf

vermutlich werden zu viele werte im If-Ausdruck mit Integer gecastet.
beim impliziten Typecasting von PB steckt man nicht immer drin, was wo wie geschieht.

benutze container/dummies, wie in meinem Beispiel, dann stellst du sicher, dass es so reagiert wie du erwartest.

[TomS]

Code: Alles auswählen

bq.d = 57320043

result.d=Pow(bq.d,0.5) - Int(Pow(bq.d,0.5))
If  result = 0
    Debug Pow(bq.d,0.5) - Int(Pow(bq.d,0.5)) ;0.000132....
EndIf

So geht's

[PB42]

Ich habe das jetzt so gemacht wie Kaeru das vorgeschlagen hat und das läuft. Vielen Dank!

PB42

[Kaeru Gaman]

der Vorschlag von TomS unterscheidet sich kaum, er packt nur gleich das Ergebnis in einen einzelnen Container.

[Kiffi]

@PB42: Bitte diesen Thread mit einem aussagekräftigen Betreff versehen!

Grüße ... Kiffi

[Kaeru Gaman]

schlag was vor...

[Kiffi]

schlag was vor...

wieso sollte ich? Das ist die Aufgabe des Threaderstellers.

[ts-soft]

schlag was vor...

Warum muß bei Typumwandlung von Karotten im Quadrat alles in dumme Container gepackt werden?

[HeX0R]

"Typecasting die 34."