Live-Forum - Die aktuellen Beiträge
Datum
Titel
28.03.2024 21:12:36
28.03.2024 18:31:49
Anzeige
Archiv - Navigation
1340to1344
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Rechenfehler auf aktuellen Prozessoren?

Rechenfehler auf aktuellen Prozessoren?
10.12.2013 11:56:26
Chris
Servus,
ich habe eben ein für mich sehr erstaunliches Verhalten in Excel bemerkt:
19,95 minus 20,05 ergibt nicht 0,1 wie erwartet, sondern 0,100000000000001
1995 minus 2005 ergibt aber erwartungsgemäß 10.
Ein Kollege und ich haben das nun in verschiedenen Versionen von Excel reproduziert:
- 2010 für Windows
- 2011 für Mac
Numbers für das ipad in der aktuellen Version lierfert auch das gleiche Bild. R (Statistikprogramm) liefert sogar noch wildere Ergebnisse ab der 15. Nachkommastelle.
Eine Googlesuche (excel 19.95 20.05 0.100000000000001) liefert kein Ergebnis.
Daher frage ich mich, ob das ein bekannter Bug ist oder ob wir hier grade das neue Intel-Gate á la Pentium 1 aufgedeckt haben ;-)
Gruß
Chris

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Rechenfehler auf aktuellen Prozessoren?
10.12.2013 12:00:47
Rudi
Hallo,
das ist vollkommen normal. Goggle mal nach Fließkommeberechnung.
Gruß
Rudi

AW: Rechenfehler auf aktuellen Prozessoren?
10.12.2013 13:26:21
Chris
Wieder was gelernt. Hatte mich gewundert, weil bei wesentlich wilderen Nachkommastellen das richtige Ergebniss kommt und bei einer (vermeintlich einfachen) Kombination eine Abweichung auftritt.
Cheerio
Chris
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige