Anzeige
Archiv - Navigation
260to264
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
260to264
260to264
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Ungenauigkeit in Excel

Ungenauigkeit in Excel
26.05.2003 13:20:54
andreas
hallo an alle,

gibt es eine möglichkeit eine Variable zu definieren, die alle nachkommastellen mitnimmt? double schneidet nach der 16. stelle ab und das wird in meinen testverfahren verdammt ungenau...

habt ihr eine idee?

andreas

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Re: Ungenauigkeit in Excel
26.05.2003 13:39:29
Umbratus

Tach Andreas,

Wenn du deine Werte anstatt in einer Fließkommazahl in der Form Basis+Exponent speicherst, hast du keine Ungenauigkeiten.

Gruß Umbratus

Re: Ungenauigkeit in Excel
26.05.2003 20:13:46
Nepumuk

Hallo Andreas,
nimm de Datentyp Decimal, der hat immerhin 28 Nachkommastellen.
Gruß
Nepumuk

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige