Frage von Juli593, 40

IEEE754 a+b=a, Auslöschung?

Gibt es ein Paar aus zwei zahlen a und b die unter IEEE754 bei a+b = a ergeben aufgrund der Auslöschung?

Danke für eure Antworten!

Hilfreichste Antwort - ausgezeichnet vom Fragesteller
von Mikkey, 40

Die Auslöschung findet immer statt, wenn der Betrag von b um mehr als das 2^p-fache kleiner ist als der Betrag von a.

Beispiel 1E20+1E-20 = 1E20 (im Rechner von Windows 10)

Kommentar von martin7812 ,

... wobei "p" (2^p) davon abhängig ist, welchen Datentyp (32-, 64- oder 128-Bit; beim PC auch 80-Bit, aber das ist nicht IEEE-754) man verwendet.

Expertenantwort
von Suboptimierer, Community-Experte für Mathematik, 37

Die Gleichung geht immer auf, wenn b = ± 0 ist.

Keine passende Antwort gefunden?

Fragen Sie die Community