Was kann man tun um bei OBS die Dateigröße runterzuschrauben, außer die Qualität zu verschlechtern?

Es gibt verschiedene Formen der verlustfreien Komprimierung, aber das geht natürlich nur begrenzt. Wenn du zum Beispiel auf MP3 umsteigst werden halt (unter anderem) praktisch unhörbare Töne rausgeschnitten. Aber Videodateien sind immer relativ groß und damit musst du dann leben können.

Du könntest versuchen mit 30 statt 60 FPS aufzunehmen oder generell ein FPS Limit setzten.