Live-Forum - Die aktuellen Beiträge
Datum
Titel
17.10.2025 10:28:49
16.10.2025 17:40:39
Anzeige
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Kommastellen ungenau

Forumthread: Kommastellen ungenau

Kommastellen ungenau
30.09.2006 10:09:58
Rolf
Guten Morgen,
ich rechne gerade in vba 8.25 - 8
Das ergibt auch korrekt 0.25
Aber 8.2 - 8 ergibt 1.9 Periode
Muß ich die Werte irgendwie benennen ?
Integer ist immer ohne Nachkomma habe ich gemerkt,
gibts' auch etwas für nur 2 Kommastellen, damit
korrekt 0.2 herauskommt ?
Rolf
Anzeige

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Kommastellen ungenau
30.09.2006 10:35:47
Sigi
Hallo Rolf,
du kannst noch runden:

Sub Test()
MsgBox Round(8.2 - 8, 2)
End Sub

Die Ungenauigkeit liegt im System der elektronischen Technik. Computer rechnen im Binärsytem. Durch das Hin- und Herübersetzten von Dezimal nach Binär und zurück kommen diese Ungenauigkeiten zustande. Zudem stehen nur eine begranzte Anzahl von Bits zur Verfügung. Es gibt Dezimalbrüche die können binär nicht exakt dargestellt werden.
Gruß
Sigi
Anzeige
Toll, danke sehr ;-)
30.09.2006 11:30:30
Rolf
und Danke für die Erklärung
;

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Entdecke mehr
Finde genau, was du suchst

Die erweiterte Suchfunktion hilft dir, gezielt die besten Antworten zu finden

Suche nach den besten Antworten
Unsere beliebtesten Threads

Entdecke unsere meistgeklickten Beiträge in der Google Suche

Top 100 Threads jetzt ansehen
Anzeige