Live-Forum - Die aktuellen Beiträge
Anzeige
Anzeige
HERBERS
Excel-Forum
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
348to352
348to352
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Rechenfehler bei Excel

Rechenfehler bei Excel
10.12.2003 10:41:08
Matthias G
Hallo liebe Excel-Fans,

Ich habe folgende Funktion:

Function st() As Single
st = 3.7
End Function

Wenn ich nun in eine Zelle "=st()" eigebe, kommt als Ergebnis:
3,700000048

Lasse ich die Typdefinition "as Single" weg, ist das Ergebnis korrekt.
Das passiert sowohl bei Excel 2000 als auch bei Excel XP.

Könnt ihr das nachvollziehen? Oder liegt's am Duron-Prozessor?
Ich wäre sehr, dankbar, wenn ihr mir helfen könntet.

Gruß,
Matthias

4
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Erklaerung zwar noch offen, aber ...
10.12.2003 11:10:35
Volker Croll
Hallo Matthias,

wenn Du statt Single Double nimmst, stimmt's auch wieder.

Die Hilfe sagt dazu zwar
Single (Gleitkommazahl mit einfacher Genauigkeit)
Double (Gleitkommazahl mit doppelter Genauigkeit)
nur korrekt erklaeren, kann ich es Dir auch nicht.

Vielleicht meldet sich noch einer der Mathematiker.

Gruss Volker
AW: Erklaerung immer noch offen, aber ...
10.12.2003 11:17:23
Matthias G
Hallo Volker,
Ich nehme jetzt Double, hab ich auch grade rausgefunden (Danke!).

Trotzdem seltsam, dass eine Zahl wie 3.7 nicht korrekt mit dem Single-Typ dargestellt werden kann...

Naja.

Danke nochmals,
Matthias
Anzeige
AW: Erklaerung immer noch offen, aber ...
10.12.2003 12:45:04
IngoG
Hallo Matthias,

Ich versuchs mal zu erklären:

also single hat eine genauigkeit von 2Byte, die der Rechner binär speichert.

Da 3,7 keine potenz von 2 ist rundet er hinten im singleformat nach 2 Byte.
excel arbeitet aber standardmässig mit einer höheren genauigkeit und bekommt dann den gerundeten wert vorgesetzt...

vielleicht reicht dir das als erklärung

Gruß Ingo
Danke fuer die Info ! (oT)
11.12.2003 15:53:59
Volker Croll

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige