Ich treffe mal folgende Annahmen:

1. Die Ecke des Viertelkreises liegt auf einer Ecke des Quadrates. Diese Ecke nenne ich A.
2. Die beiden geraden Kanten des Viertelkreises stimmen jeweils mit einer Kante des Quadrates überein.
3. Der Kreis, der dann noch ins Quadrat soll, soll maximalen Durchmesser haben. Diesen Kreis nenne ich k.

Den Viertelkreis nenne ich v.
Dann nenne ich die Ecke, die im Quadrat der Ecke A gegenüberliegt, C.
Der Abstand zwischen A und C beträgt, wegen dem Pytharogas, \( \sqrt{2} a  = 4 \sqrt{2} \).
Dann ist der Abstand zwischen C und dem Viertelkreis gleich \(4 \sqrt{2} - r =4 \sqrt{2} - 4\).
Diesen Abstand nenne ich x.
Auf diesem Abstand muss sich k zwängen.
Den Mittelpunkt von k nenne ich M.

Da k gerade so in den Zwickel passt, wird k

1. die zwei Kanten des Quadrats berühren, die an C anliegen. Die beiden Berührungpunkte nenne ich E und F.
2. v berühren. Diesen Berührungpunkt nenne ich G.

Nun muss man den Radius r' von k herausfinden.
Der Abstand von den drei Berührungspunken E, F, G zu M ist immer r'.
Drum ist, nach dem Satz des Pythagoras, der Abstand von C zu M gleich \(\sqrt{2} r'\).
Mithin ist der Abstand von G nach C gleich \(\sqrt{2} r' + r'\). Das ist aber genau \(x =4 \sqrt{2} - 4\).
Also gilt:
\(\sqrt{2} r' + r' = 4 \sqrt{2} - 4 \)
Auflösen nach r' liefert: \(r' = \frac{4 \sqrt{2} - 4}{1+\sqrt{2}} \)
Der Durchmesser ist dann \( 2r' \approx 1,37 \).