Wie genau funktioniert das Q-Format?

 - (Mathematik, Informatik, Rationale Zahlen)

1 Antwort

Kennst du diesen Artikel? https://en.wikipedia.org/wiki/Q_%28number_format%29

Eine Zahl mit einer Integer- und sieben Nachkommastellen braucht acht Bits.

Eine Zahl mit zwei Integer- und sechs Nachkommastellen braucht ebenfalls acht Bits, ist aber nicht ganz so präzise wie die erste, weil sie eine Nachkommastelle weniger hat.

Die Aussage interpretiere ich so, dass bei der Addition beider Zahlen der meistens wichtigere Integer-Anteil der zweiten Zahl nicht verlorengehen darf, auch wenn das Ergebnis dadurch etwas ungenauer wird. Offenbar steht für das Ergebnis genauso wie für die Summanden nur ein Byte zur Verfügung.

Was möchtest Du wissen?