Anzeige
Archiv - Navigation
1268to1272
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

SVerweis fehlerhaft?

SVerweis fehlerhaft?
Howie
Hallo allerseits,
ich habe eine Tabelle zur Berechnung der niedersächsischen Abiturnoten, leider macht die Funktion SVerweis meiner Meinung nach einen Fehler.
https://www.herber.de/bbs/user/80722.xls
Im konkreten Fall müsste m.E. die Abiturnote 2,8 angezeit werden, angezeigt wird aber 2,9. Alle anderen Noten werden kurioserweise korrekt aus der Tabelle entnommen. Habe ich etwas übersehen? Taucht der Fehler ebi anderen Excel-Versioen als 2007 auch auf?
Grüße
Howie

10
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Benutzer
Anzeige
Nein - Dezimalzahlen sind ungenau - Runden!
25.06.2012 16:57:52
Erich
Hi Howie,
das ist kein Excelfehler, sondern die Folge der in einem endlichen Computer zwangsläufig ungenauen Behandlung
von Dezimalzahlen. Ohne Rundung ist der Wert von G16 wohl um eine nicht sichtbare Winzigkeit größer als 499.
Mit Runden in Spalte G geht es:
 EFGH
15499 4812,9
16  4992,8
172,8 5172,7

Formeln der Tabelle
ZelleFormel
E15=SUMME(E13:E14)
G15=RUNDEN(1003-180*H15;0)
G16=RUNDEN(1003-180*H16;0)
E17=WENN(ZÄHLENWENN(E21:E24;"ok.")=4;SVERWEIS(E15;G4:H20;2); "---")
G17=RUNDEN(1003-180*H17;0)


Excel Tabellen im Web darstellen >> Excel Jeanie HTML 4
Rückmeldung wäre nett! - Grüße aus Kamp-Lintfort von Erich
Anzeige
Sichtbare Ungenauigkeit
25.06.2012 17:03:14
Erich
Hi Howie,
so sieht man es (ohne die Rundung) doch - in J16:
 GHIJ
164992,8 5,68434E-06

Formeln der Tabelle
ZelleFormel
G16=1003-180*H16
J16=100000000*(G16-499)

Rückmeldung wäre nett! - Grüße aus Kamp-Lintfort von Erich
Anzeige
AW: Nein - Dezimalzahlen sind ungenau - Runden!
25.06.2012 18:13:18
Howie
Hallo und danke für die Mitteilung.
Dann kenne ich jetzt die Ursache.
Ich halte das auf jeden Fall für einen sehr schweren Excel-Fehler, denn die 499 ist das Ergebnis der Berechnung 1003-180*2,8, was -- sofern es keine Reform in dieser Hinsicht gegeben haben sollte, von der ich nichts mitbekommen habe -- auch ohne Runden ganzzahlig ist.
Dass man sich hier nicht auf Excel verlassen kann halte ich sogar für äußerst bedenklich, wer auf der Welt lässt denn seine offensichtlich ganzzahligen Ergebnisse von Berechnungen auf all seinen Tabellenblättern immer alle runden? Ich frage mich, wie viele Sekretärinnen auf der Welt, die Excel zur Unterstützung ihrer Buchhaltung verwenden, das wissen...
Nun gut, ich denke nochmal für den Hinweis, woran es gelegen hat.
Howie
Anzeige
Verwunderung und Widerspruch
25.06.2012 19:40:25
Erich
Hi Howie,
als jemand mit Abschluss in Mathematik sollterst du solche Aussagen eigentlich nicht machen können.
Sicher, der Wert des Ausdruck 1003-180*2,8 ist mathematisch ganzzahlig.
Aber: 2,8 ist eine Dezimalzahl, deren Darstellung im Binärsystem (in dem unsere Computer i. A. rechnen)
theoretisch unendlich (periodisch) sein kann - so wie 1/3 = 0,333... im Dezimalsystem.
2,8 ist ungenau, dann ist auch 180*2,8 nur ganz nahe einer Ganzzahl - und damit auch 1003 - 180*2,8
So ein Computer hat nun mal nur endlich viele Stellen zum Speichern einer solchen Zahl.
Je nach Computersprache und Datentyp reichen die Stellen für eine Rechengenauigkeit von z. B. bis zu 15 Stellen.
Das bedeutet, das es unendlich viele Zahlen gibt, die z. B. als
0,123456789012345 dargestellt und damit gleich aussehen - hier einige davon:
0,1234567890123451
0,12345678901234521
0,123456789012345234
0,1234567890123453456
0,12345678901234512345
0,1234567890123453456789
usw.
Das hat mit Excel nichts zu tun. Es mag sein, dass andere Kalkulationsprogramme versuchen,
diese scheinbar falschen Ergebnisse zu vermeiden. Aber an der Endlichkeit des Computers kommen auch sie nicht vorbei.
Einige Seiten aus der Recherche (gesucht nach: dezimalzahlen ungenau):
https://www.herber.de/forum/archiv/132to136/t132900.htm
https://www.herber.de/forum/archiv/444to448/t447308.htm
https://www.herber.de/forum/archiv/1164to1168/t1166697.htm
https://www.herber.de/forum/archiv/1164to1168/t1166697.htm
Daran zeigt sich auch: Deine Frage wird immer wieder mal gestellt.
"Ich frage mich, wie viele Sekretärinnen auf der Welt...": Vielleicht mehr als ein Lehrer denkt? :-)
Nicht nur Sekretärinnen, sondern viele kompetente Fachleute in kleinen und großen Unternehmen arbeiten
im vollen Bewusstsein der Endlichkeit von Computern erfolgreich und (in dieser Beziehung) fehlerfrei mit Excel...
"Excel gut"?
Rückmeldung wäre nett! - Grüße aus Kamp-Lintfort von Erich
Anzeige
AW: Verwunderung und Widerspruch
25.06.2012 20:35:59
Howie
Ich weiß nicht was die persönlichen Provokationen sollen, in Bezug auf Mathematikstudium, Lehrer oder kompetente Fachleute. Mir geht es um was ganz anderes.
Mein Taschenrechner von Mc Geiz rechnet auch im Zweiersystem und der kommt auf die richtige Lösung. Es ist also möglich, das vernünftig zu realisieren. Die Endlichkeit des Computers kann man sich gern bewusst machen bei vielen Nachkommastellen oder sehr großen Zahlen, aber nicht bei 180*2,8.
Excel wird als Kalkulationsprogramm vermarktet, also als etwas, das rechnen kann. Damit ist gemeinhin das Auffinden richtiger mathematischer Lösungen gemeint, nicht das falscher. Die Software sitzt zwischen der Technik und dem Benutzer, der nicht erst darüber nachdenken will, ob 2,8 im Dualsystem periodisch ist.
Tut mir leid, aber was Du die ganze Zeit beschreibst ist lediglich eine Begründung dafür, warum Excel Fehler macht. Das ist von mir aus in Ordnung, aber für mich bleibt es ein Fehler.
Ich denke, die Diskussion führt auch zu nichts mehr.
Grüße
Howie
Anzeige
Schreib an MS! owT
25.06.2012 22:00:34
Luc:-?
:-?
dies erinnert mich...
25.06.2012 22:16:19
silex1
...an einen Mathelehrer, der einer Versicherungsgesellschaft nachgewiesen hat, dass ihre Ablaufsumme um 3 Cent abweicht.
Er benötigte 2 Tage dazu, dies mathematisch zu berechnen.
Hätte er in dieser Zeit Werbung ausgetragen, hätte er mehr Geld verdient.
Dein Beitrag zeigt wieder, dass einige Berufszweige ihrem "Nachsagen" wohl mehr als alle Ehre erweisen.
Was ist daran so schwierig, Dinge die es gib, so zu respektieren und zu aktzeptieren wie sie sind?
Und wenn Du den MäcGeiz-Rechner favorisierst, dann nutze doch diesen und nicht Excel!!!
Denn um den MäcGeiz-Rechner zu produzieren, genügt es Patente zu nutzen.
Um Excel zu "erfinden", genügt Dein Gehirn nicht...und auch meines ist dazu zu klein!;-)
Also mathematisch gesehen wäre Deine Welt "in Ordnung", nur hast Du eines vergessen...es wäre nur "Deine Welt"!
VG, Rene
Anzeige
AW: dies erinnert mich...
25.06.2012 23:15:32
Howie
Rene, sorry, ich werde den Troll nicht füttern. Meine Frage ist dankenswerterweise beantwortet worden, die derweil eröffneten Nebenkriegsschauplätze interessieren mich nur peripher. Ich habe meine Sichtweise begründet und Dein Posting hat zur Sache keinen Bezug. An meiner Person kannst Du Dich aber gern noch ein bißchen abarbeiten, wenn es Dein Wohlbefinden steigert.
Fließkommaformat IEEE 754
25.06.2012 23:38:31
{Boris}
Hi Howie,
falls es Dich nach der langen Diskussion noch interessiert, denn Excel rechnet genau mit diesem Format:
http://dr-luthardt.de/mso.htm?topic=Excel&tip=.recheng
VG, Boris
Anzeige
AW: Fließkommaformat IEEE 754
26.06.2012 00:03:07
Howie
Hallo Boris,
alles klar, danke.
MfG Howie

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige