Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
1352to1356
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Fehler bei Double Werten

Fehler bei Double Werten
04.03.2014 16:39:59
Andreas
Hallo zusammen,
dieses Forum hat mich schon oft bei so manchem Problem geholfen, nun muss ich selber mal eine _ Frage stellen. Ich habe das Problem, dass, sobald ich einer Double Variablen das Ergebnis der Rechnung "5 - 4.9" zuweise, ich als Ergebnis "9,99999999999996E-02" bekomme! Kann das jemand nachvollziehen oder mir sagen woran das liegt?

Sub test()
Dim d As Double
d = 2 - 1.9     'ergibt: 0,1
Debug.Print d
d = 5 - 4.9
Debug.Print d   'ergibt: 9,99999999999996E-02
End Sub

1
Beitrag zum Forumthread
Beitrag zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Fehler bei Double Werten
04.03.2014 16:43:44
Rudi
hallo,
schon 100x gefragt worden.
Das liegt an der internen Behandlung von Gleitkommazahlen.
Da hilft nur Runden.
Google mal nach Gleitkomma.
Gruß
Rudi
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige