du brauchst eine Hauptbedingung, also das was möglichst groß wird, hier der Flächeninhalt eines Rechtecks A=a*b die Nebenbedingung gibt dir auch einen Zusammenhang zwischen a und b aber du hast noch eine weitere Größe, die Diagonale. Diese Nebenbedingung stellst du mit Pythagoras auf und löst nach einer Variable auf. Den entstandenen Term kannst du dann in die Hauptbedingung einsetzen. Dann den Hochpunkt der Funktionsgleichnung der Hauptbedingung berechnen.