PureBoard

Hey ho,
eine kurze Frage zu ValF()
Warum wird aus ValF("787878778e-10") = "0.07878787815571",
müsste das nicht eigentlich "0.0787878778" werden?

Gruß Zim

Eine altbekannte Frage. Siehe Wikipedia, genauer gesagt hier.

-.- doofe Computer. Aber das muss man umgehen können Oo. Immerhin ist das richtige Ergebniss aus "WolframAlpha" und da sitzt sicher kein Mensch am rechnen

mal ne frage wieso ist das ergebniss von valf genauer als das von vald?

Mehr platz für Fehler
keine ahnung

sry hab nen fehler gemacht
hab die "" vergessen

so klappts

Debug ValD("787878778e-10")
Debug "0.0787878778"

Okey "WolframAlpha" rechnet auch nur bei Zahlen unter 17 Ziffern...

WolframAlpha oder besser Mathematica benutzen auch Floats/Doubles nur intern für schnelle Rechnungen.
Bei Sachen die ausgegeben werden, wird eine andere Klasse von Zahlen verwendet, welche Dizimalzahlen auf beliebig genaue Stellen darstellen kann:

WolframAlpha: N[1/7,1000]

Dort kann ich sagen er soll 1/7 wirklich auf 1000 stellen berechnen.

Für ProgrammierinterneSachen ist eine solche genauigkeit *für n Arsch*

STARGÅTE hat geschrieben:WolframAlpha oder besser Mathematica benutzen auch Floats/Doubles nur intern für schnelle Rechnungen.
Bei Sachen die ausgegeben werden, wird eine andere Klasse von Zahlen verwendet, welche Dizimalzahlen auf beliebig genaue Stellen darstellen kann:

Strings nehme ich an?

Nein, zumindest nicht im Speicher.

Mag sein, dass sie die Zahl am ende als String ausgeben lassen.
Jedoch wird die Zahl 1/7 mit 1000 Stellen als anhäufung von Longs/Quads gespeichert ...

zB gibt mit der Speicherverbrauch 472 Bytes zurück. (Statt 1000 noch was, was der String an sich hätte)

Anders Beispiel:

Lasse ich Mathematica 2^8000 errechnen, erhalte ich eine Länge von 1032 Bytes ...
Das lässt darauf schließen, das hier Byte-Arrays oder Long-Array ... benutzt werden:

2^8000 = 4^4000 = 16^2000 = 256^1000

also 1000 Bytes für die 256er und 32Byte als Header oder so....