Größtenteils ist die Antwort nein, sie ist nicht direkt auf Grafik spezialisiert. Natürlich gibt es gewisse Features, die gewisse Grafikoperationen in Hardware umsetzen.
Wie schon erwähnt sind GPUs gut in Parallelisierung. Es gibt sehr große Unterschiede im Aufbau der Caches und wofür diese optimiert sind, im Vergleich zu einer herkömmlichen CPU.
Zurück zur Grafik: GPUs können grundlegende Arithmetik sowie auch floating point operations. Durch Parallelisierung kann, je nach Anwendung jeder Pixel auf dem Bildschirm "gleichzeitig" berechnet werden.
GPUs haben aber tatsächlich auch Hardware Features, die sich insbesondere für Grafik lohnen.
Beispielerweise texture Caches, die für Lokalität auf 2D, bzw. 3D Daten optimiert sind. Da geht es in erster Linie um einen schnelleren Zugriff nachdem etwas in den Cache geladen wurde. Beispielerweise die Pixel direkt neben einem Pixel den man sich gerade angeschaut hat (Das können herkömmliche Caches nicht immer leisten, da diese die Daten i. d. R. nur eindimensional betrachten)