Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
604to608
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
604to608
604to608
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Kürzen() / Ganzzahl()

Kürzen() / Ganzzahl()
05.05.2005 10:59:16
Bernhard
Bei manchen Berechnungen "irrt" sich Excel!
Beispiel:
=Kürzen((16383,1-16383)*10) gibt als Ergebnis 1
=Kürzen((16384,1-16384)*10) gibt als Ergebnis 0.
Anderes Beispiel:
=Ganzzahl((32768,2-32768)*10) gibt als Ergebnis 1;
für 32767,2 stimmt das Ergebnis noch.
Gibt es dafür eine Erklärung?

3
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Kürzen() / Ganzzahl()
05.05.2005 11:40:00
M@x
Hi,
ERklärung hab ich auch keine,
Excel neigt bei manchen Zahlenkombinationen in ca der 10. Kommastelle plötzlich werte hineinzuschreiben. was für den absoluten wWert der Zahl völlig unerheblich ist, macht sich aber beiKürzen unangenehm bemerkbar da ich im einen Fall einwenig über 1 bin im anderen Fall 10^-10 drunter, und das wirkt sich beim Kürzen natürlich fatal aus
da hilft die Funktion RUNDEN,
Gruss
M@x
AW: Kürzen() / Ganzzahl()
05.05.2005 12:02:05
th.heinrich
hallo Bernhard,
gib mal hier https://www.herber.de/ssearch.html als suchbegriff
Excel rechnet falsch ein.
gruss thomas
Anzeige
AW: Kürzen() / Ganzzahl()
05.05.2005 18:51:13
Sigi
Hallo Bernd,
mach mal folgende Berechnungen ...
"=16383,1-16383" und
"=16384,1-16384" und formatiere die Ergebnisse benuterdefiniert "0,00000000000000000",
also mit vielen Nachkommastellen, dann siehst du den Unterschied!
Die Erklärung ist einfach: Computer können nur mit binären Zahlen rechnen. Es gibt aber
Dezimalbrüche, die können binär nicht exakt dargestellt werden! Etwas vergleichbares
gibt es im Dezimalsystem aber auch: Stelle doch mal ein Drittel (1/3) als Dezimalzahl
dar ... 0,33333333333... und doch nicht exakt ein Drittel!
Gruß
Sigi

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige