Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
328to332
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
328to332
328to332
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Berechnungsfehler

Berechnungsfehler
24.10.2003 11:57:40
Maike
Hallo Leute!
Wenn ich in Excel Berechnungen ausführe, kommt es immer wieder zu fehlerhaften Ergebnissen. Zum Beispiel: 47,237-46,994 ergibt zunächst richtig 0,243. Wenn ich allerdings mehr Nachkommastellen zulasse, fällt auf, dass der berechnete Wert nicht bei 0,243 sondern bei 0,243000000000002 liegt.Für meine nachfolgenden Berechnungen brauche ich aber die exakten Werte.
Hat jemand eine Ahnung woran das liegen könnte?

5
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Berechnungsfehler - Excel ist Schuld!
24.10.2003 12:02:46
Galenzo
ja - Excel rechnet mit 15 Nachkommastellen - daher gibt es (vor allem bei Währungsformaten) diesen bekannten, üblen Fehler.
Zur Umgehung solltest in deinen Formeln mit GANZZAHL oder ähnlichem arbeiten, um die NAchkommastellen entsprechend zu reduzieren.
AW: Berechnungsfehler - Excel ist Schuld!
24.10.2003 13:43:03
Maike
Hallo Galenzo!
Vielen Dank für die Info. Das ist natürlich echt übel. Bei meinen weitergehenden Berechnungen brauche ich dann die Nachkommastellen. Also selbst wenn ich die Ausgangswerte über die Genauigkeit auf drei Nachkommastellen korrigiere, weiß ich ja nicht, wo dann in meinen nachfolgenden Berechnungen mit mehr Nachkommastellen Fehler stecken. Ich kann mich ja eigentlich auf keine mit Excel berechnete Zahl verlassen. Da ist ja jeder blöde Taschenrechner schlauer! Da kann man ja nur hoffen, dass das bei den nächsten Excelversionen dann ausgemerzt ist!
Gruß
Maike
Anzeige
AW: Berechnungsfehler - Excel ist Schuld!
24.10.2003 14:01:11
Hans W. Hofmann
Das liegt nicht XL sondern an der Arithmetik auf einem endlichen Maschinen-Zahlenbereich ;-). Dafür gibt es die Einstellung "Genauigkeit wie angezeigt", die eine Rundung, wie beim Taschenrechner auch - der berechnet immer 3 Stellen mehr als er tatsächlich anzeigt - ermöglicht.


Gruß HW
AW: Berechnungsfehler - Excel ist Schuld!
24.10.2003 14:17:38
Maike
Hallo HW,
Ich habe ja nichts dagegen, dass nicht mit unendlich vielen Nachkommastellen gerechnet wird, aber wenn ich zwei Zahlen mit drei Nachkommastellen voneinander abziehe, kann nur eine Zahl mit drei Nachkommastellen herauskommen - egal, ob ich mit zehn oder mit zwanzig Nachkommastellen rechne. Wenn bei dieser Rechnung eine Zahl herauskommt, die in der zehnten Nachkommastelle plötzlich etwas anderes als eine Null aufweist, ist das richtig falsch und nicht gerundet.
Gruß
Maike
Anzeige
AW: Ja bei Dir...
24.10.2003 16:32:46
Hans W. Hofmann
Aber Du musst ja eine Maschine damit beauftragen und da kann schon das Wandeln ins binäre System und zurück zu Rundungsfehlern führen. Entweder Du ergreifts geeignete Maßnahmen durch Festlegen der Genauigkeitsgrenze für Deine Erfordernisse oder Du stellt bei Bill einen Antrag er möge das zukünftig programmtechnisch (z.B. BCD Arithmetik oä.)lösen, was aber einen nicht unerheblichen Performancerückschritt mit sich bringen wird...
So wies ist, ist es mit lieber: Ich weiß XL verarbeitet 15 Stellen und ich sag ihn wieviel Stellen ich benötige, aber flott...


Gruß HW

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige