Berechnungsgenauigkeit

Forumthread: Berechnungsgenauigkeit

02.02.2003 19:34:41

Hannes

Wie kann man die Berechnungsgenauigkeit von Excel steigern, um von 16 auf 32 signifikante Stellen zu kommen?

5
Beiträge zum Forumthread

Beiträge zu diesem Forumthread

Betreff

Datum

Anwender

Re: Berechnungsgenauigkeit

02.02.2003 20:14:34

Nepumuk
Re: Berechnungsgenauigkeit

02.02.2003 20:19:21

wolf.w.radzinski
SubQuark :-))

02.02.2003 20:21:27

wolf.w.radzinski
ist zwar ziemlich sinnlos, aber

02.02.2003 20:38:00

wolf.w.radzinski
Re: SubQuark :-))

02.02.2003 20:38:25

Nepumuk

Re: Berechnungsgenauigkeit

02.02.2003 20:14:34

Nepumuk

Hallo Hannes,
indem du die Berechnungen von einem Makro auführen lässt. Aber, die Genauigkeit von Datentyp Decimal erreich auch nur maximal 28 Nachkommastellen. Damit befindest du dich sicher schon im Subquarkbereich.
Gruß
Nepumuk

Re: Berechnungsgenauigkeit

02.02.2003 20:19:21

wolf.w.radzinski

Hallo,

afaik kann man maximal 28 Stellen erreichen und zwar mit dem Datentyp Decimal ... kleines Beispiel

aber auch 200 und mehr Stellen Genauigkeit sind (fast) kein Problem ... dafür hab ich mir ein kleines AddIn geschrieben. (ist jedenfalls zu 95% fertig und kann unter http://www.rendar.de heruntergeladen und benutzt werden) Dort kann man dann ganze und rationale Zahlen addieren, subtrahieren, multiplizieren und dividieren (binäre Operationen gibt's auch) - wurde unter XL97 entwickelt -

Gruß -wr-

SubQuark :-))

02.02.2003 20:21:27

wolf.w.radzinski

und wo befindet man sich bei ca 200 Stellen Genauigkeit (unter Excel)? Im Hyperraum? :-))

Gruß -wr-

ist zwar ziemlich sinnlos, aber

02.02.2003 20:38:00

wolf.w.radzinski

z.B.
A1= '330000000001234567890123456789012345678,00090001
A2= '7890000010303587,44563108

ergibt

lr_div(A1;A2;149;150) -->

41825095002571108252129,85578306827555464687744483666600936637472906804128659294315395425153335553830557014293229922542484499494646729072463624800705404626262461522175921094

und bei

lr_mult(A1;A2) -->

2603700003409924597724050952278762707374793831067159997,15220918242831080000

kannst ja mal nachrechnen, ob's stimmt (ich hab's nicht nachgerechnet) und überlegen, ob dir diese Genauigkeit ausreicht (du solltest allerdings keine 1000 Formeln mit wesentlich mehr als 28 Stellen in ein Blatt setzen - oder viel Wartezeit einkalkulieren)

Gruß -wr-

Re: SubQuark :-))

02.02.2003 20:38:25

Nepumuk

ab 2007 wollen die Hochenergiephysiker am Cern bei Genf mit dem Large Hadron Collider in die Größenordnung von 10hoch-17 Metern vordringen. Danach, so die Theorie soll bis 10hoch-31 Meter erst mal nicht mehr kommen. Das zu prüfen ist aber die Energie von ca. 10 Gigaelektronenvolt nötig, die einen Beschleunigungsring von der größe unserer Galaxie erforderlich machen. Damit sollte dann in den Bereich der Strings vorgedrungen werden können. Das meinte ich mit Subquarkbereich.
Gruß
Nepumuk

Beliebteste Forumthreads (12 Monate)

Forumthread: Berechnungsgenauigkeit

5 Beiträge zum Forumthread Beiträge zu diesem Forumthread

Beliebteste Forumthreads (12 Monate)

5
Beiträge zum Forumthread

Beiträge zu diesem Forumthread