Live-Forum - Die aktuellen Beiträge
Anzeige
Anzeige
HERBERS
Excel-Forum (Archiv)
20+ Jahre Excel-Kompetenz: Von Anwendern, für Anwender
124to128
124to128
Aktuelles Verzeichnis
Verzeichnis Index
Verzeichnis Index
Übersicht Verzeichnisse
Inhaltsverzeichnis

Überlauf in Formel

Überlauf in Formel
10.06.2002 15:35:25
Antje
Hallo Profis,

warum bekomme ich hier ständig einen Überlauf, wenn Byte_2 =194 und Byte_3=5??

Alles mit Dim integer!

nZ1 = 1 + ((Byte_2 - 10) * 255 + (Byte_3 - 1)) \ 1296
nZ2 = 1 + ((Byte_2 - 10) * 255 + Byte_3 - 1 - (nZ1 - 1) * 1296) \ 36
nZ3 = 1 + ((Byte_2 - 10) * 255 + (Byte_3 - 1)) Mod 36

Danke
Gruß
Antje

2
Beiträge zum Forumthread
Beiträge zu diesem Forumthread

Betreff
Datum
Anwender
Anzeige
Re: Überlauf in Formel
10.06.2002 15:47:18
Rainer
Liebe Antje!

Die Dim-Anweisungen sind falsch, da die Werte für Byte_2*255> größtmöglicher Integerwert sind. Nimm Dim .. as Long

Lieben Gruß
Rainer

Re: Überlauf in Formel
10.06.2002 16:05:10
Antje
Suupi !
Danke!!

Antje

Anzeige

302 Forumthreads zu ähnlichen Themen

Anzeige
Anzeige
Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige

Beliebteste Forumthreads (12 Monate)

Anzeige
Anzeige
Anzeige