Live-Forum - Die aktuellen Beiträge
Anzeige
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Rechenfehler auf aktuellen Prozessoren?

Forumthread: Rechenfehler auf aktuellen Prozessoren?

Rechenfehler auf aktuellen Prozessoren?
10.12.2013 11:56:26
Chris
Servus,
ich habe eben ein für mich sehr erstaunliches Verhalten in Excel bemerkt:
19,95 minus 20,05 ergibt nicht 0,1 wie erwartet, sondern 0,100000000000001
1995 minus 2005 ergibt aber erwartungsgemäß 10.
Ein Kollege und ich haben das nun in verschiedenen Versionen von Excel reproduziert:
- 2010 für Windows
- 2011 für Mac
Numbers für das ipad in der aktuellen Version lierfert auch das gleiche Bild. R (Statistikprogramm) liefert sogar noch wildere Ergebnisse ab der 15. Nachkommastelle.
Eine Googlesuche (excel 19.95 20.05 0.100000000000001) liefert kein Ergebnis.
Daher frage ich mich, ob das ein bekannter Bug ist oder ob wir hier grade das neue Intel-Gate á la Pentium 1 aufgedeckt haben ;-)
Gruß
Chris

Anzeige

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Rechenfehler auf aktuellen Prozessoren?
10.12.2013 12:00:47
Rudi
Hallo,
das ist vollkommen normal. Goggle mal nach Fließkommeberechnung.
Gruß
Rudi

AW: Rechenfehler auf aktuellen Prozessoren?
10.12.2013 13:26:21
Chris
Wieder was gelernt. Hatte mich gewundert, weil bei wesentlich wilderen Nachkommastellen das richtige Ergebniss kommt und bei einer (vermeintlich einfachen) Kombination eine Abweichung auftritt.
Cheerio
Chris
Anzeige
;

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Entdecke mehr
Finde genau, was du suchst

Die erweiterte Suchfunktion hilft dir, gezielt die besten Antworten zu finden

Suche nach den besten Antworten
Unsere beliebtesten Threads

Entdecke unsere meistgeklickten Beiträge in der Google Suche

Top 100 Threads jetzt ansehen
Anzeige