Live-Forum - Die aktuellen Beiträge
Anzeige
Archiv - Navigation
212to216
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
212to216
212to216
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Berechnungsgenauigkeit

Berechnungsgenauigkeit
02.02.2003 19:34:41
Hannes
Wie kann man die Berechnungsgenauigkeit von Excel steigern, um von 16 auf 32 signifikante Stellen zu kommen?

5
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Re: Berechnungsgenauigkeit
02.02.2003 20:14:34
Nepumuk

Hallo Hannes,
indem du die Berechnungen von einem Makro auführen lässt. Aber, die Genauigkeit von Datentyp Decimal erreich auch nur maximal 28 Nachkommastellen. Damit befindest du dich sicher schon im Subquarkbereich.
Gruß
Nepumuk


Re: Berechnungsgenauigkeit
02.02.2003 20:19:21
wolf.w.radzinski

Hallo,

afaik kann man maximal 28 Stellen erreichen und zwar mit dem Datentyp Decimal ... kleines Beispiel

aber auch 200 und mehr Stellen Genauigkeit sind (fast) kein Problem ... dafür hab ich mir ein kleines AddIn geschrieben. (ist jedenfalls zu 95% fertig und kann unter http://www.rendar.de heruntergeladen und benutzt werden) Dort kann man dann ganze und rationale Zahlen addieren, subtrahieren, multiplizieren und dividieren (binäre Operationen gibt's auch) - wurde unter XL97 entwickelt -

Gruß -wr-


Anzeige
SubQuark :-))
02.02.2003 20:21:27
wolf.w.radzinski

und wo befindet man sich bei ca 200 Stellen Genauigkeit (unter Excel)? Im Hyperraum? :-))


Gruß -wr-

ist zwar ziemlich sinnlos, aber
02.02.2003 20:38:00
wolf.w.radzinski

z.B.
A1= '330000000001234567890123456789012345678,00090001
A2= '7890000010303587,44563108

ergibt

lr_div(A1;A2;149;150) -->

41825095002571108252129,85578306827555464687744483666600936637472906804128659294315395425153335553830557014293229922542484499494646729072463624800705404626262461522175921094

und bei

lr_mult(A1;A2) -->

2603700003409924597724050952278762707374793831067159997,15220918242831080000

kannst ja mal nachrechnen, ob's stimmt (ich hab's nicht nachgerechnet) und überlegen, ob dir diese Genauigkeit ausreicht (du solltest allerdings keine 1000 Formeln mit wesentlich mehr als 28 Stellen in ein Blatt setzen - oder viel Wartezeit einkalkulieren)

Gruß -wr-

Anzeige
Re: SubQuark :-))
02.02.2003 20:38:25
Nepumuk

ab 2007 wollen die Hochenergiephysiker am Cern bei Genf mit dem Large Hadron Collider in die Größenordnung von 10hoch-17 Metern vordringen. Danach, so die Theorie soll bis 10hoch-31 Meter erst mal nicht mehr kommen. Das zu prüfen ist aber die Energie von ca. 10 Gigaelektronenvolt nötig, die einen Beschleunigungsring von der größe unserer Galaxie erforderlich machen. Damit sollte dann in den Bereich der Strings vorgedrungen werden können. Das meinte ich mit Subquarkbereich.
Gruß
Nepumuk

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige