Wie soll ich das am besten hinschreiben bzw. ,,beweisen”?

Ich würde das ungefähr so hinschreiben:

Durch den Ursprung O(0,0), die beiden Achsen des Koordinatensystems, die Parallele zur x-Achse mit f(x) = 3 und die Strecke von Punkt P(x,0) zum Punkt Q(x | f(x) ) wird ein Rechteck definiert (siehe Skizze). Nach der Flächenformel für ein Rechteck mit der Fläche als Produkt aus Länge (a = x) und Breite (b = y = f(x) ergibt sich:



Skizze:

und bei der Aufgabe f(x)= ax^2 kommt doch 1/3 ax^3 raus oder ?

Ja, das kommt da raus.

Oder muss man hier die variable A weglassen

A sowieso nicht, denn da steht ein kleines "a" (sorry für die Pingeligkeit, aber in der Mathematik und Physik sollte man auf äußerste Korrektheit achten. Groß- und Kleinschreibung kann hier einen erheblichen Unterschied machen).

Ansonsten: Nein! Natürlich kannst Du "a" nicht weglassen. Weglassen kann man auch fast nie etwas und man braucht meist eine sehr, sehr gute Begründung, die in aller Regel etwas mit näherungsweisen Berechnungen zu tun hat.