Re: Binärzahlen!
11.06.2002 22:47:01
Sigi E.
Hallo Rainer,das sind die Grenzen der elektronischen Technik. Bekanntlich arbeiten Computer im Dualsystem. Für die Berechnung und Speicherung von Zahlen stehen zudem nur eine begrenzte Anzahl von Bits bzw. Bytes zur Verfügung.
Außerdem werden „unsere Dezimalzahlen“ in Binärzahlen umgewandelt. Bei Ganzzahlen (1, 2, 3, ...) ist das noch einfach. Doch bei Dezimalbrüchen (0,001, 0,000002, etc) wird dies zum Problem. Es gibt Dezimalwerte, die können im Binärsystem nicht mehr exakt dargestellt werden (Bsp.: 65 – 64,2 ergibt in Excel 0,799999999999997; Format entsprechend einstellen). Es gibt viele solcher Beispiele! Die Definition der Zahlen (Single od. Double) spielt dabei eine untergeordnete Rolle.
Vergleichbares gibt es auch im Dezimalsystem: Versuch mal 1/3 in Dezimalschreibweise exakt darzustellen! (Man kommt nur zu Näherungswerten: 0,333....)
Beim Weiterverarbeiten von berechneten Werten verwende ich deshalb häufig die Rundenfunktion und runde auf die geforderte Genauigkeit, um keine Überraschungen zu erleben!
Gruß
Sigi