Live-Forum - Die aktuellen Beiträge
Datum
Titel
28.03.2024 21:12:36
28.03.2024 18:31:49
Anzeige
Archiv - Navigation
804to808
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
804to808
804to808
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Kommastellen ungenau

Kommastellen ungenau
30.09.2006 10:09:58
Rolf
Guten Morgen,
ich rechne gerade in vba 8.25 - 8
Das ergibt auch korrekt 0.25
Aber 8.2 - 8 ergibt 1.9 Periode
Muß ich die Werte irgendwie benennen ?
Integer ist immer ohne Nachkomma habe ich gemerkt,
gibts' auch etwas für nur 2 Kommastellen, damit
korrekt 0.2 herauskommt ?
Rolf

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: Kommastellen ungenau
30.09.2006 10:35:47
Sigi
Hallo Rolf,
du kannst noch runden:

Sub Test()
MsgBox Round(8.2 - 8, 2)
End Sub

Die Ungenauigkeit liegt im System der elektronischen Technik. Computer rechnen im Binärsytem. Durch das Hin- und Herübersetzten von Dezimal nach Binär und zurück kommen diese Ungenauigkeiten zustande. Zudem stehen nur eine begranzte Anzahl von Bits zur Verfügung. Es gibt Dezimalbrüche die können binär nicht exakt dargestellt werden.
Gruß
Sigi
Toll, danke sehr ;-)
30.09.2006 11:30:30
Rolf
und Danke für die Erklärung

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige