Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
724to728
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
724to728
724to728
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Falsche Berechnung STABW

Falsche Berechnung STABW
30.01.2006 12:48:19
Jörg
Hallo,
soeben habe ich festegestellt, dass Excel die Standardabweichung (stabw) in manchen Fällen falsch berechnet. Für die Werte 0,95 / 0,95 / 0,95 sollte Null als Standardabweichung erhalten werden. Tatsächlich gibt EXCEL jedoch 1,49012E-08
aus.
Weiß jemand Rat ?
Gruß Jörg

4
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Rat nicht, aber workaround
30.01.2006 12:57:34
Klaus
Hallo Jörg,
ich bin erstaunt! Ich benutze hier Excel 97 und kann den Fehler reproduzieren - leider.
Also Workaround schlage ich vor, die Zahlen auf 0,9499999999999999 zu ändern, die Standardabweichung von der ergibt (wie gewollt) null.
Gruß,
Klaus M.vdT.
ps: Das Phänomen tritt auch bei 0,3 und 0,6 auf
AW: Rat nicht, aber workaround Nr. 2
30.01.2006 13:51:07
AndreasG
Hallo,
ggfs. kannst dua uch per Wenn-Formel alles was zb: kleiner ist als 0,001 zu Null setzen.
1,4 E-8 ist ja "so ziemlich" nah an Null
Grüsse
Andreas
AW: Falsche Berechnung STABW
30.01.2006 14:47:44
Franz
Hallo Jörg,
theoretisch muß 0 herauskommen. Bei den Rechnungen von EXCEL gibt es jedoch interne Rechengenauigkeiten. Diese treten insbesondere beim Potenzieren und Wurzelziehen auf und können sich beim Berechnen der Standardabweichung addieren, speziell bei Dezimalzahlen kleiner 1.
Allerdings sollte man bei der Standardabweichung auch mit etwas Sachverstand rangehen.
Wenn Zahlen mit 2 Nachkommastellen in eine Berechnung der Standardabweichung eingegeben werden, dann sollte auch die Standardabweichung auf 2 max. 3 Nachkommastellen angegeben werden. Eine Angabe auf die 7. oder 8. Stelle nach dem Komma ist schlicht Unsinn.
Einfachste Lösung: Runde das Ergebnis der Standardabweichung auf 3 Nachkommastellen und die interne Rechengenaugkeit belästigt nicht mehr.
Gruß
Franz
Anzeige
AW: Falsche Berechnung STABW
31.01.2006 15:34:25
et999
Hi,
ich bin troztdem ein wenig enttäuscht von Excel. Vieleicht sollte man den MS Programmierern mal den Tip geben in so einem Fall eine Zeile einzufügen: Wenn alle Werte geleich sind folgt: Ergebnis ist Null. Würde denen doch eine Peinlichkeit ersparen. Spenden für diesen Tip zugungsten des Forums (:-)
Gruß
Uwe
(:o)

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige