Ich fürchte, bei dieser Aufgabe muss man viel rechnen. Ich stelle mir den Lösungsweg so vor:

Die Wäscheleine identifiziere ich mit der x-Achse, und der Mittelpunkt des Handtuchs lege ich in den Koordinatenursprung.
Die Abmessungen des Handtuchs seinen a, und b, wobei \(a\ge b\).
Wenn das Handtuch werde "im Grundzustand" so aufgehangen, dass die längeren Kanten senkrecht und die kürzeren Kanten des Handtuchs waagrecht sind.
Dann haben die vier Ecken folgende Koordinaten:
Vordere linke Ecke: \( \displaystyle \;=\; A(0) \;=\; \frac{1}{2} \left(\begin{array}{c} -b \\ -a \end{array}\right)\)
Hintere linke Ecke: \( \displaystyle \;=\; B(0) \;=\; \frac{1}{2} \left(\begin{array}{c} -b \\ -a \end{array}\right)\)
Vordere rechte Ecke: \( \displaystyle \;=\; C(0) \;=\; \frac{1}{2} \left(\begin{array}{c} b \\ -a \end{array}\right)\)
Hintere rechte Ecke: \( \displaystyle \;=\; D(0) \;=\; \frac{1}{2} \left(\begin{array}{c} b \\ -a \end{array}\right)\)

Dann wird das Handtuch um den Winkel \(\phi\) gedreht. Dabei werden die vorderen Ecken gegen den Uhrzeigersinn gedreht und die hinteren Ecken im Uhrzeigersinn.
Für solche Drehungen gibt es eine Formel:
Vordere linke Ecke: \( \displaystyle \;=\; A(\phi) \;=\; \frac{1}{2} \left(\begin{array}{c} -\cos(\phi)b +\sin(\phi)a \\ -\cos(\phi)a-\sin(\phi) b \end{array}\right) \)
Hintere linke Ecke: \( \displaystyle \;=\; B(\phi) \;=\; \frac{1}{2} \left(\begin{array}{c} -\cos(\phi)b -\sin(\phi)a \\ -\cos(\phi)a+\sin(\phi) b \end{array}\right) \)
Vordere rechte Ecke: \( \displaystyle \;=\; C(\phi) \;=\; \frac{1}{2} \left(\begin{array}{c} \cos(\phi)b+\sin(\phi)a \\ -\cos(\phi)a +\sin(\phi) b\end{array}\right)\)
Hintere rechte Ecke: \( \displaystyle \;=\; D(\phi) \;=\; \frac{1}{2} \left(\begin{array}{c} \cos(\phi)b-\sin(\phi)a \\ -\cos(\phi)a -\sin(\phi) b\end{array}\right)\).

Für kleine \(\phi>0\) ist die überlappende Fläche ein Fünkeck mit zwei "Höckern" \(A(\phi)\) und \(D(\phi)\).
Ab einen kritischen Winkel, nennen wir ihn \(\alpha\), wird die überlappende Fläche zum Dreieck. Das ist der Fall, wenn \(A(\alpha)=D(\alpha)\).
Dies gilt, wenn \(-\cos(\alpha)b +\sin(\alpha)a = \cos(\phi)b-\sin(\phi)a \). D.h. \(\alpha=\arctan(b/a)\).

Ich betrachte die Strecke, auf der die Wäscheleine das Handtuch berührt.
Den linken bzw. rechten Endpunkt dieser Strecke nenne ich \(L(\phi)\) bzw. \(R(\phi)\).

Nun kann man die Geradengleichungen der Handtuchkanten berechnen. Diese Geraden sind
- Vordere untere Handtuchkante: Gerade \(v(\phi)\), die durch die Punkte \(A(\phi)\) und \(C(\phi)\) geht.
- Hintere untere Handtuchkante: Gerade \(h(\phi)\), die durch die Punkte \(B(\phi)\) und \(D(\phi)\) geht.
- Vordere linke Handtuchkante. Gerade \(l(\phi)\), die durch die Punkte \(L(\phi)\) und \(A(\phi)\) geht.
- Hintere rechte Handtuchkante. Gerade \(r(\phi)\), die durch die Punkte \(R(\phi)\) und \(D(\phi)\) geht.
Den Schnittpunkt \(S(\phi)\) der Geraden \(v(\phi)\) und \(h(\phi)\) braucht man auch noch.

Zur Berechnung der Überlappungsfläche \(U(\phi\) muss man zwei Fälle unterscheiden:
Fall 1: \(\alpha\le\phi\le\pi/2\): Überlappungsfläche ist ein Dreieck \(\triangle L(\phi)R(\phi)S(\phi)\), dessen Fläche man nun ausrechnen kann.
Fall 2: \(0\le\phi\le\alpha\): Überlappungsfläche ein Fünfeck mit den Ecken \(L(\phi),R(\phi),S(\phi),V(\phi),H(\phi)\).
Dabei ist
- \(V(\phi)\) der Schnittpunkt der Geraden \(v(\phi)\) und \(r(\phi)\),
- \(H(\phi)\) der Schnittpunkt der Geraden \(h(\phi)\) und \(l(\phi)\).
Dieses kann man in ein oberes Trapez und unteres ein Dreieck aufteilen.

U ist dann eine Funktion mit Fallunterscheidung. Man folgenden Kandidaten für ein Minimum:
- \(\phi=\alpha\). Hier ist U nicht differenzierbar.
- \(\phi=0\). Randpunkt
- \(\phi=\pi/2\). Randpunkt
- Alle \(\phi\in[0,\alpha]\) mit \(U'(\phi)=0\), sofern vorhanden
- Alle \(\phi\in[\alpha,\pi/2]\) mit \(U'(\phi)=0\), sofern vorhanden
Von den so erhaltenen Kandidaten berechne man U, und davon nehme man den kleinsten Wert.