Ich würde dir empfehlen auf half-size zu stellen ^^ das hilft schonmal (und sonderlich senkt es die Quali nicht), dann könntest du noch auf 30fps stellen, da das menschliche Auge eh nicht mehr sehen kann :) und auch youtube nicht mehr fps abspielt.
Wenn du diese Sachen dir nicht antuen möchtest, was ich bei deinem eigentlich leistungsstarken Pc schon verstehen kann, probiere doch mal Fraps zu deinstallieren und wenn notwendig es auf den neusten Stand zu bringen (neuste Version)
Du kannst aber auch auf Dxtory umsteigen, was bei mir zwar nicht funktioniert, aber das ist bei jedem irgentwie anders ;)
LG Runnerp3