Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
204to208
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
204to208
204to208
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

VBA rechnet ungenau mit Dezimalzahlen

VBA rechnet ungenau mit Dezimalzahlen
22.01.2003 01:23:35
Florian
Hallo!
Ich hab mal eine Frage:
Ich will in einem Makro Dezimahlzahlen subtrahieren. Dabei rechnet VBA aber ungenau. Ich habe das Problem mal auf den folgenden Code reduziert:

Sub Rechenfehler()
zahl = 9.2
zahl = zahl - 6.1
zahl = zahl - 2.1
zahl = zahl - 1
MsgBox zahl
End Sub

In der Msgbox müsste ja eigenlich "0" stehen, weil
9,2 -6,1 -2,1 -1 eben null ist.
Excel gibt aber die verschwindend kleine Zahl "-4,44089E-16" aus. Weiß jemand wie man diesen nervigen bug umgehen kann?

Bin für jede Hilfe dankbar!

fLoRiAn

3
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Re: VBA rechnet ungenau mit Dezimalzahlen
22.01.2003 01:43:40
L.Vira
explizit runden
Re: VBA rechnet ungenau mit Dezimalzahlen
22.01.2003 22:07:07
Sigi E.
Hallo Florian,

Computer rechnen im Binärsystem. Dezimalzahlen werden in Binärzahlen gewandelt. Es gibt aber Dezimalbrüche, die können binär nicht exakt dargestellt werden! Da muß gerundet werden!

Auch im Dezimalsystem können manche Werte nicht exakt dargestellt werden: 1/3 = 0,333.....

Gruß
Sigi

Re: VBA rechnet ungenau mit Dezimalzahlen
23.01.2003 18:51:02
Florian
Runden ist ne gute idee... funzt!

Danke!

Anzeige

303 Forumthreads zu ähnlichen Themen

Anzeige
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige