Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
1152to1156
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

Single nicht kompatibel zu Double?

Single nicht kompatibel zu Double?
Tommy
Moin,
ich bin auf etwas scheinbar einfaches gestoßen, dass ich mir trotz Recherche nicht erklären kann.
Double ist doch genauer als Single.
Wie kann es sein, dass wenn ich eine double Variable gleich einer Single Variable setze, die Double Variable einen anderen Wert hat.
Sub sngdbl()
Dim snga as single
Dim dbla as double
snga = 0.675
dbla = sng
Debug.print snga ' ergibt 0,675
Debug.Print dbla ' ergibt 0,675000011920929
End Sub

Ich verstehe das nicht. Kann man diese Datentypen denn nicht "mischen"? Muss man überall den gleichen Datentyp haben?
Grüße
Tommy

3
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Benutzer
Anzeige
AW: Single nicht kompatibel zu Double?
22.04.2010 15:42:35
Rudi
Hallo,
dass kommt schlichtweg durch die Speicherung als binäre Zahl.
Die Umwandlung von 0,675 als 32 Bit-Zahl (Single) ins Binärformat ergibt eben nicht genau 0,675. Wieder zurück als 64 Bit-Zahl (Double) legt diese Ungenauigkeit offen.
Der umgekehrte Weg liefert gleiche Ergebnisse.
Sub sngdbl()
Dim snga As Single
Dim dbla As Double
dbla = 0.675
snga = dbla
Debug.Print snga ' ergibt 0,675
Debug.Print dbla ' ergibt 0,675
End Sub

Gruß
Rudi
AW: Single nicht kompatibel zu Double?
22.04.2010 16:44:53
Tommy
Danke. Wie erwartet gibt es einen genau erklärbaren Grund dafür.
Es ist nur erstmal etwas verwirrend, dass double zwar genauer als single ist, aber nicht in single konvertierbar ist.
Dann werde ich jetzt halt alle Gleitkommazahlen als double deklarieren.
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige