Anzeige
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Rechenfehler?

Forumthread: Rechenfehler?

Rechenfehler?
17.12.2003 11:56:35
Erich
Hallo zusammen,

habe folgendes Problem:
wir haben 2 Spalten mit folgen Werten:
spalte a spalte b
45 | 0
29,8 | 0
0 | 7068
3600 | 0
45 | 0
0 | 250
20 | 0
0 | 7,93
0 | 24439,4
15,2 | 0
0 | 3420,19
3410,79 | 0
31 | 0
0 | 1032
0 | 4181,6
29,8 | 0
4828,25 | 0
21 | 0
4840 | 0
0 | 1614,60
15,2 | 0
31 | 0
6731,2 | 0
4452,5 | 0
9058,78 | 0
4794 | 0
0 | 5,8
21 | 0

Summiere ich die Spalte bekomme ich jeweils 42019,52; die Differenz der beiden Zahlen ist 0.

Bilde ich jeweils die Differenz Spalte c = spalte b - spalte a und summiere die Spalte c, dann bekomme ich 0,00000000000472866191!

Was ist das?


PS. die Anzeige der Zahlen ist leider verrutscht!
Anzeige

4
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Rechenfehler?
17.12.2003 12:06:37
John
Hallo Erich,

du hast hier ein Problem angesprochen, das den Programmierern aller Tabellenkalkulationsprogramme einigen Ärger bereitet. Keiner konnte es seither lösen.

Excel bitett hier aber eine Abhilfe an. Stelle in den Optionen die "Rechengenauigkeit wie angezeit" ein.

Das geht in den "Extras - Optionen - Berechnen - Genauigkeit wie angezeigt"

Versuch es mal

John
Anzeige
AW: Rechenfehler?
17.12.2003 12:24:59
erich
Leider ist dies nicht auf Tabellenkalkulation begrenzt. Darauf gestossen bin ich über ein sql-query in VB6:
sql$ = Select Sum(debit-credit) as ... zeigt diesen eigentümlichen Wert an, während
sql$ = Select Sum(debit) - sum(credit) den korrekten Wert anzeigt.

Noch schlimmer: das gleiche ist mir im StarOffice unter Linux passiert...
Anzeige
AW: Rechenfehler?
17.12.2003 16:40:12
IngoG
Hallo zusammen,
das ist eigentlich kein Rechenfehler, das liegt einfach an der nicht unendlichen genauigkeit eines Rechners.
Da die werte Dual abgespeicher werden,und auch nachkommestellen als potenzen von 2 dargestellt werden können einige Dezimalzahlen nicht genau berechnet werden (genauigkeit von excel beträgt 15 Stellen). der Fehler liegt normalerweise unterhalb dieser grenze, kann aber durch rechenopperationen deutlich größer werden.

4,5 dez ist zB 100,1 Bin ohne Fehler, aber

0,47 dez ist 0,0111100001010001100011110101110000... Bin

mit fehler 0,00000000119209286886246

Ich hoffe, das hilft Dir weiter

Gruß Ingo
Anzeige
AW: Rechenfehler?
17.12.2003 12:15:18
Boris
Hi Erich,

der Grund dafür liegt im von Excel verwendeteten Fließkommaformat "IEEE 754". Klaus hatte mir bei Spotlight mal folgende Antwort gegeben:

http://spotlight.de/zforen/amse/m/amse-1046795708-19174.html

Grüße Boris
Anzeige
;

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Entdecke mehr
Finde genau, was du suchst

Die erweiterte Suchfunktion hilft dir, gezielt die besten Antworten zu finden

Suche nach den besten Antworten
Unsere beliebtesten Threads

Entdecke unsere meistgeklickten Beiträge in der Google Suche

Top 100 Threads jetzt ansehen
Anzeige