Falsch ist Deine Stammfunktion zu 2ax:



und nicht 4ax², was Du als Stammfunktion verwendet hast.

Nachtrag nach Kommentar:

• Berechne den y-Wert des Hochpunktes in Abhängigkeit von a.
• Das Quadrat hat dann die Fläche y(a)²
• Bestimme das Integral ( x(a) ist dabei die zweite Nullstelle neben x=0)
• 
• Setze
• Das gibt eine Gleichung für a und die löst Du nach a auf, sodass die Gleichung erfüllt ist.

Nachdem das Integral ja in Teil a) schon berechnet ist verkürzt sich das zu:



Dann wird es ganz einfach, denn der Scheitelpunkt liegt bei x=a (genau zwischen den Nullstellen) und f(a) = -a² + 2a² = a². Also bleibt am Ende die Gleichung: