Microsoft Excel

Herbers Excel/VBA-Archiv

Überlauf in Formel



Excel-Version: 10.0 (Office XP)

Betrifft: Überlauf in Formel
von: Antje
Geschrieben am: 10.06.2002 - 15:35:25

Hallo Profis,

warum bekomme ich hier ständig einen Überlauf, wenn Byte_2 =194 und Byte_3=5??

Alles mit Dim integer!

nZ1 = 1 + ((Byte_2 - 10) * 255 + (Byte_3 - 1)) \ 1296
nZ2 = 1 + ((Byte_2 - 10) * 255 + Byte_3 - 1 - (nZ1 - 1) * 1296) \ 36
nZ3 = 1 + ((Byte_2 - 10) * 255 + (Byte_3 - 1)) Mod 36

Danke
Gruß
Antje


  

Re: Überlauf in Formel
von: Rainer
Geschrieben am: 10.06.2002 - 15:47:18

Liebe Antje!

Die Dim-Anweisungen sind falsch, da die Werte für Byte_2*255> größtmöglicher Integerwert sind. Nimm Dim .. as Long

Lieben Gruß
Rainer


  

Re: Überlauf in Formel
von: Antje
Geschrieben am: 10.06.2002 - 16:05:10

Suupi !
Danke!!

Antje


 

Beiträge aus den Excel-Beispielen zum Thema "Überlauf in Formel"