Du Teilst die Zahl durch 16 und erhältst eine weitere Zahl und deren Rest (der nicht durch 16 teilbar ist, weil er zu klein ist). Die ganze Zahl wird dann wieder neu geteilt mit Rest usw. Wenn man am Ende "x:16 Rest x" (x kleiner 16) hat, ist die Rechnung beendet. Danach ließt man den Rest von unten nach oben und erhält eine Hexadezimalzahl.

Ach ja, ab 10 geht es mit Buchstaben weiter soweit ich weiß.

Also bei deinem Beispiel wäre

5 10 15 3 -> 5 A F 3

Also A=10 B=11 C=12 D=13 E=14 F=15.