Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
760to764
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
760to764
760to764
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

scheinbar fehlerhafte Berechnung?

scheinbar fehlerhafte Berechnung?
03.05.2006 10:13:02
thomas
Hallo,
ich führe eine einfache Addition/ Subtraktion mit 3 Zahlen durch. Eine der Zahlen hat eine Nachkommastellen. Wenn ich das Format der Ergebniszelle auf 11 Nachkommastellen erweitere, kommt ein krummes Ergebnis raus.
Kennt einer den Grund?
Nachfolgend eine Beispieldatei:
https://www.herber.de/bbs/user/33275.xls
Scheinbar kann ich durch Änderung der Zahlenwerte in den Zellen der Formeld dieses Verhalten beeinflussen.
Ist das ein bekannter Bug?
In dem Zusammenhang was beudetet 15 signifikante Stellen für die Berechung: Vor + Nachkommastellen.
Schon mal vielen Dank für die Hilfe und viele Grüße aus Frankfurt (hier scheintatsächlich die Sonne)
Thomas

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Gleitkommazahl nach IEEE 754
03.05.2006 11:02:34
Reinhard
Hi Thomas,
nachfolgendes Zitat ist aus:
http://de.wikipedia.org/wiki/Gleitkommazahl#IEEE_754
Gruß
Reinhard
ps: Ich freue mich über eine Rückmeldung ob diese Antwort hilfreich war oder nicht..
Durch die unterschiedliche binäre Darstellung der Zahlen kann es in beiden Systemen zu Artefakten kommen, das heißt, Zahlen die im Dezimalsystem „rund“ erscheinen, z. B. als 12.45 ausgegeben werden, können im Binärsystem nicht exakt dargestellt werden. Statt dessen wird ihre Binärdarstellung abgeschnitten, so dass bei der Rückumwandlung ins Dezimalsystem der Wert 12.44999999900468785 erhalten wird. Dieses kann in nachfolgenden Berechnungen zu unvorhergesehenen Ab- oder Aufrundungsfehlern führen.
Die oben erwähnten Artefakte sind im Binärsystem unvermeidlich, da viele Zahlen, die im Dezimalsystem exakt dargestellt werden können, im Binärsystem periodische Zahlen mit unendlich vielen Nachkommastellen sind. Sie könnten nur durch die Verwendung von BCD-kodierten Festkommazahlen vermieden werden. Binäre Gleitkommazahlen werden jedoch nach wie vor aus verschiedenen Gründen eingesetzt.
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige