Seite 1 von 2

Problem mit Floats...

Verfasst: 01.09.2007 23:33
von RiSiNG
Wenn ich Fließkommawerte (nach dem Komma 2-stellig) per ReadString() einlese und sie in eine Floatvariable über ValF() speichern möchte, kommen plötzlich x-Stellen zu meinen Werten dazu, obwohl ich sie gern auf 2 Stellen nach dem Komma reduziert haben möchte.
Hoffe jemand kann helfen...

Verfasst: 01.09.2007 23:57
von ts-soft

Verfasst: 02.09.2007 00:00
von RiSiNG
Oh man... -.-" Wenigstens ein kleiner Tipp wäre toll....

Verfasst: 02.09.2007 00:04
von ts-soft
Du mußt selber runden oder mit dem 100 fachen als Long arbeiten und bei
der Darstellung das Komma zwischen schieben. Oder sonstwas :mrgreen:

Verfasst: 02.09.2007 00:06
von RiSiNG
Hmmm ok... dachte vllt. gehts doch irgendwie effizienter.

Verfasst: 02.09.2007 00:48
von STARGÅTE
mit welcher Stellen anzahl du im "Hintergrund" rechest ist doch egal, aber sobalt du es Anzeigen willst musst du doch eh wieder

Code: Alles auswählen

Result$ = StrF(Wert.f [, NbDecimal])
aufrufen, und hast wieder eine 2 Nachkommastellen

Verfasst: 02.09.2007 03:42
von Kaeru Gaman
@Rising

das ist das ganz algemeine Float-problem, das ganz einfach durch die natur dieser speicherung hervorgebracht wird.



der momentane Wiki-Artikel is leider fürn Arsch!
früher war da die komplette Ausführung von Prof.W.Kahan enthalten,
die in leicht humoristischem Tonfall darlegt, warum es so ist wie es ist.

scheiß Wiki... das ist doch nur noch Balzgehabe von Fachleuten, die sich gegenseitig korrigieren...
kann man echt in der Pfeife rauchen... von wegen Volkslexikon.. pah!

Verfasst: 02.09.2007 03:47
von hardfalcon

Verfasst: 02.09.2007 03:58
von Kaeru Gaman
jap, das meinte ich... ist im aktuellen artikel nicht mehr enthalten.
sinnlose aufräumwut, sowas.

einem anfänger helfen diese sätze meiner meinung nach mehr, als ein fachartikel,
den er eh nur noch überscrollt, weil er von formeln erschlagen wird.

meiner ansicht nach gehört das zitat nicht kaputtdiskutiert,
sondern an den anfang eines artikels über gleitkommazahlen,
versehen mit einer netten einleitung, warum er dort steht.

wenn ein anfänger sowas liest, dann versteht er bestimmt trotzdem nicht alles,
aber er kann schmunzeln und sich denken "ok, geht also wirklich nicht"

mit dem momentanen krampfhaften fachartikel wird keinem anfänger auch nur eine frage beantwortet.

der steht nur da und sagt: "öh, ja schön, viele formeln... aber ich wollte wissen, wo meine komischen zusätzlichen nachkommastellen herkommen."

Verfasst: 02.09.2007 08:34
von RiSiNG
StrF wollte ich ja nutzen... aber dies funktioniert auch nicht wirklich da ich nur am Anfang nen String zur Verfügungung habe. Ich möchte Rechnungen durchführen (Geld), daher hatte ich die 2 Stellen benötigt.
Aber mir ist etwas anderes eingefallen. ^^