Live-Forum - Die aktuellen Beiträge
Anzeige
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Kürzen() / Ganzzahl()

Forumthread: Kürzen() / Ganzzahl()

Kürzen() / Ganzzahl()
05.05.2005 10:59:16
Bernhard
Bei manchen Berechnungen "irrt" sich Excel!
Beispiel:
=Kürzen((16383,1-16383)*10) gibt als Ergebnis 1
=Kürzen((16384,1-16384)*10) gibt als Ergebnis 0.
Anderes Beispiel:
=Ganzzahl((32768,2-32768)*10) gibt als Ergebnis 1;
für 32767,2 stimmt das Ergebnis noch.
Gibt es dafür eine Erklärung?
Anzeige

3
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Kürzen() / Ganzzahl()
05.05.2005 11:40:00
M@x
Hi,
ERklärung hab ich auch keine,
Excel neigt bei manchen Zahlenkombinationen in ca der 10. Kommastelle plötzlich werte hineinzuschreiben. was für den absoluten wWert der Zahl völlig unerheblich ist, macht sich aber beiKürzen unangenehm bemerkbar da ich im einen Fall einwenig über 1 bin im anderen Fall 10^-10 drunter, und das wirkt sich beim Kürzen natürlich fatal aus
da hilft die Funktion RUNDEN,
Gruss
M@x
Anzeige
AW: Kürzen() / Ganzzahl()
05.05.2005 12:02:05
th.heinrich
hallo Bernhard,
gib mal hier https://www.herber.de/ssearch.html als suchbegriff
Excel rechnet falsch ein.
gruss thomas
AW: Kürzen() / Ganzzahl()
05.05.2005 18:51:13
Sigi
Hallo Bernd,
mach mal folgende Berechnungen ...
"=16383,1-16383" und
"=16384,1-16384" und formatiere die Ergebnisse benuterdefiniert "0,00000000000000000",
also mit vielen Nachkommastellen, dann siehst du den Unterschied!
Die Erklärung ist einfach: Computer können nur mit binären Zahlen rechnen. Es gibt aber
Dezimalbrüche, die können binär nicht exakt dargestellt werden! Etwas vergleichbares
gibt es im Dezimalsystem aber auch: Stelle doch mal ein Drittel (1/3) als Dezimalzahl
dar ... 0,33333333333... und doch nicht exakt ein Drittel!
Gruß
Sigi
Anzeige
;

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Entdecke mehr
Finde genau, was du suchst

Die erweiterte Suchfunktion hilft dir, gezielt die besten Antworten zu finden

Suche nach den besten Antworten
Unsere beliebtesten Threads

Entdecke unsere meistgeklickten Beiträge in der Google Suche

Top 100 Threads jetzt ansehen
Anzeige