Antwort
Herangehensweise ist letztlich immer eine Übersetzung des Textes in die Sprache der Mathematik und da heißt es genau lesen:
Seite - kennen wir nicht - also nennen wir das: x
Es war ein Quadrat: Fläche war also: x² (und beide Seite gleich)
Eine Seite verkürzt um 3: x - 3
Die andere Seite verdoppelt: 2x
Fläche des Rechtecks = "Seite 1 * Seite 2": (x-3)*2x
Rechteck ist um 16cm² größer als das Quadrat: x²+16 = (x-3)*2x
Damit hast Du die Gleichung, die Du lösen musst.
PS: Die Gleichung hat 2 Lösungen, von denen aber eine im Zusammenhang mit der Aufgabe verworfen werden muss.