Die Aufgabe ist etwas unverständlich formuliert, aber ich versuche es trotzdem:
Zuerst musst eine Gleichung aufstellen, in der das V (= Volumen) auf der einen Seite und der ganze Rest mitsamt Kanten und Höhe usw. auf der anderen Seite.
Mithilfe weiterer Gleichungen und der Tatsache, dass es einen Zusammenhang zwischen sämtlichen Variablen gibt, ist es möglich, Kanten und Höhe in einer Variablen zusammenzufassen.

Jetzt hast du die Variable V und die zusammengefasste Variable U.
Nun wird V zu f(x) und U zu x (Das Volumen muss alleine stehen!!!)

Von dieser Funktion suchst du dir jetzt den höchsten Wert (mithilfe der Ableitung, aber das dürftest du bereits in Mathe gemacht haben).

Dabei musst du aufpassen, dass es gegebenenfalls nur einen beschränkten Bereich gibt, aus dem du den Hochpunkt aussuchen darfst.

Ist vielleicht nicht die beste Antwort, aber ich hoffe, es ist hilfreich.