Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
424to428
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
424to428
424to428
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

0,8 = 0,8000000023

0,8 = 0,8000000023
07.05.2004 14:41:36
Marc
Hallo zusammen,
kennt jemand folgendes Problem:
ich schreibe 0,8 in eine Textbox, lese diesen Wert mit CSNG() aus und schreibe ihn dann in ein Excel Arbeitsblatt, wo dann 0,800000023 zu lesen ist.
Für Werte unterhalb von 0,5 ist die Ausgabe noch korrekt, was allerdings auch bedeuten kann, dass der Fehler dort noch so klein ist, dass Excel ihn von alleine vernachlässigt. Für 0,7 gibt er sogar 0,6999999999 aus. Also ist da irgendwie auch kein System erkennbar.
Ich werde wohl künstlich runden, um das Problem zu lösen. Trotzdem würde mich interessieren, woher das kommt.
Eventuell kann ich mich heute nicht mehr für hilfreiche Antworten bedanken, also Dank im vorraus und ein schönes Wochenende.
Marc

5
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: 0,8 = 0,8000000023
IngoG
Hallo Marc,
das liegt an der dualen darstellung von Zahlen und der endlichen genauigkeit von excel (15 Stellen)
0,5= 2^(-1), =0,1 (dual)
0,8=0,5+0,3 =0,11001100110011001100110011... (dual)
0,5 ist Dual endlich ohne Fehler darstellbar, 0,3 aber nicht.
Ich hoffe, das hilft Dir ertsmal weiter
Gruß Ingo
Anzeige
AW: 0,8 = 0,8000000023
ChrisL
Hi Marc
Noch etwas zur Lösung. Runden würde ich nicht. Z.B. Currency hat eine höhere Genauigkeit oder so...
If IsNumeric(Textbox1) Then Range("A1") = Textbox1 * 1
Gruss
Chris
Danke
07.05.2004 15:28:40
Marc
Das klingt logisch, wenn auch arm (bezogen auf Excel).
Vielen Dank zusammen und ein schönes Wochenende
Danke für die Rückmeldung oT
IngoG
.

Links zu Excel-Dialogen

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige