Live-Forum - Die aktuellen Beiträge
Datum
Titel
28.03.2024 21:12:36
28.03.2024 18:31:49
Anzeige
Archiv - Navigation
444to448
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
444to448
444to448
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Excel rechnet falsch warum?

Excel rechnet falsch warum?
29.06.2004 08:04:17
Jörg
Ich habe in Excel gerade einen Fehler (?) entdeckt.

Wenn du folgende Rechnung eingibst
=(513,21-453,41-67,67)-(19,2+40,6-67,67)
sollte als Ergebnis 0 rauskommen, stattdessen kommt
0,000000000000014210854715202000 raus (Zahl mit 30 Dezimalstellen)
Gibst du aber
=(59,8-67,67)-(19,2+40,6-67,67)
kommt glatt
0,000000000000000000000000000000 raus (513,21-453,41=59,8)

Auch bei
=(513,21-453,41-40)-(19,2+40,6-40)
kommt glatt
0,000000000000000000000000000000 raus

Kann mir das jemand erklären?

5
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Excel rechnet falsch warum?
29.06.2004 09:35:11
DieterB
Hallo Jörg,
bei mir kommt 0 raus.
bei Formatierung "Zahl", nicht bei Standard: 1,42109E-14

Gruß
DieterB
immer noch Falsch, erhöhe mal die Komma stellen
29.06.2004 09:54:40
Jörg
wenn du schon das Feld als Zahl formatierst. Wenn ich den standard nehme, dann ist es je klar, dass bei zwei stellen nach dem Komma eine "0" raus kommt. Der Fehler taucht aber erst an der 14. Nachkommastelle auf. Also Formatiere es ruhig als Zahl aber bitte mit 30 Nachkommastellen und du wirst sehen, auch dein Excel rechnet falsch!!!
Gruß Jörg
ja genau das denke ich auch (oT)
29.06.2004 10:19:02
Jörg
-
AW: Excel rechnet falsch warum?
29.06.2004 23:38:52
Sigi
Hallo Jörg,
die Rechnung braucht gar nicht so schwierig zu sein. Rechne mal 105,8 - 105,7
und formatiere das Ergebnis auf mehrere Nachkommastellen!
Nicht Excel rechnet falsch, sondern das sind die Grenzen der elektronischen Technik!
Bekanntlich rechnen Computer im Binärsystem; d.h. alle Zahlen aus dem Dezimalsystem
werden ins Dualsystem/Binärsystem übersetzt, dort wird gerechnet und anschließend wird
alles wieder ins Dezimalsystem zurückübersetzt! Und dafür stehen auch nur eine begrenzte
Anzahl von Bits/Bytes zur Verfügung. Mit Ganzzahlen zu rechnen geht noch ganz easy. Aber
bei Dezimalbrüchen wird's kompliziert. Es gibt Dezimalbrüche, die können im Binärsystem
nicht mehr korrekt dargestellt werden!
Vergleichbares gibt es im Dezimalsystem ja auch: Versuch mal ein Drittel (1/3) in
Dezimalschreibweise darzustellen (0,3333....).
Gruß
Sigi
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige