IEEE754 a+b=a, Auslöschung?

... komplette Frage anzeigen

2 Antworten

Die Auslöschung findet immer statt, wenn der Betrag von b um mehr als das 2^p-fache kleiner ist als der Betrag von a.

Beispiel 1E20+1E-20 = 1E20 (im Rechner von Windows 10)

Antwort bewerten Vielen Dank für Deine Bewertung
Kommentar von martin7812
12.11.2015, 14:10

... wobei "p" (2^p) davon abhängig ist, welchen Datentyp (32-, 64- oder 128-Bit; beim PC auch 80-Bit, aber das ist nicht IEEE-754) man verwendet.

2

Die Gleichung geht immer auf, wenn b = ± 0 ist.

Antwort bewerten Vielen Dank für Deine Bewertung

Was möchtest Du wissen?