Anzeige
Archiv - Navigation
1812to1816
Aktuelles Verzeichnis
Verzeichnis Index
Übersicht Verzeichnisse
Vorheriger Thread
Rückwärts Blättern
Nächster Thread
Vorwärts blättern
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
Inhaltsverzeichnis

VBA rechnet anders as EXCEL Formeln

VBA rechnet anders as EXCEL Formeln
19.02.2021 18:30:34
Rainer
https://www.herber.de/bbs/user/144082.xlsm
Ich addiere mit VBA die Werte aus 2 Zellen, hier genau die Werte 0,10 + 0,05
Ich erwarte als Ergebnis 0,15.
Das reale Ergebnis ist aber um '2,77555756156289E-17' grösser als 0,15
Der Vergleich mittels "=WENN(A3=B3;"GLEICH";"")" sagt aber, dass das Ergebnis = 0,15 ist.
Das stellt alles auf den Kopf.

6
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
AW: VBA rechnet anders as EXCEL Formeln
19.02.2021 18:54:39
mumpel
Hallo!
Wie hast Du die Variablen deklariert? Als Integer oder Long? Letzteres ist besser bei Fließkommaberechnung.
Gruß, René
AW: VBA rechnet anders as EXCEL Formeln
19.02.2021 19:06:30
Rainer
Ich rechne ja mit Prozent-Zahlen bzw. Werten kleiner Null.
Ich habe deshalb die Variablen alle als DOUBLE deklariert.
AW: VBA rechnet anders as EXCEL Formeln
19.02.2021 19:15:46
Sigi.21
Hallo Rainer,
das ist in der EDV ein technisches Problem. Computer rechnen alles binär. Dazu werden Dezimalzahlen hin- und hergewandelt. Dabei entstehen geringe Differenzen. Siehe dazu unter Gleitkommaarithmetik bei Tante Google.
Sigi
https://www.herber.de/bbs/user/144085.xlsm
Anzeige
AW: VBA rechnet anders as EXCEL Formeln
19.02.2021 19:47:31
mumpel
Noch besser.
AW: VBA rechnet anders as EXCEL Formeln
19.02.2021 22:06:54
Yal
Hallo Rainer,
so ganz neu ist es auch nicht. Schon im 2001 mit Java bekannt:
https://www.heise.de/ct/hotline/Java-rechnet-falsch-310780.html
Ca. 80% der Energieverbrauch eines CPU geht auf die Korrektur von Ungenauigkeit.
In der KI zählt nur die relative Wahrscheinlichkeit: 60% Wahrscheinlichkeit eine Zitrone, 45% Wahrscheinlichkeit eine Orange, also ist es eine Zitrone. Dort werden spezielle CPU gebaut, die die Ungenauigkeit nicht justieren und trotzdem sehr hohen Treffer haben. Diese CPU (-Prototypen) haben eine Rechengeschwindigkeit bis Faktor 100 (bei gleichem Verbrauch) mit nur leicht geringe Trefferquote.
Man spricht von Soft Computing, wenn in das Ziel ist, die Ungenauigkeiten zu nutzen (u.a. Fuzzy logic)
https://enzyklopaedie-der-wirtschaftsinformatik.de/lexikon/technologien-methoden/Softcomputing
und von Approximate Computing, wenn man auf die resourcefressende Genauigkeit verzichtet, um mehr Analyse pro Watt zu bekommen.
https://gi.de/informatiklexikon/approximate-computing
VG
Yal
Anzeige
AW: VBA rechnet anders as EXCEL Formeln
20.02.2021 12:13:08
Herbert_Grom
Hallo Rainer,
deklariere doch deine Variablen mal "as Currency"! Das ist genauer als "Double" und begrenzt auf 4 Nachkommastellen!
Deine Formel in "D9" kannst du damit korrigieren:

=KÜRZEN(B9;2)=KÜRZEN(C9;2)
Servus

302 Forumthreads zu ähnlichen Themen

Anzeige
Anzeige
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige