Dein Ansatz hört sich gut an. Du kommst auf $$\begin{pmatrix}a&b\\c&1-a\end{pmatrix}\cdot\begin{pmatrix}a&b\\c&1-a\end{pmatrix}=\begin{pmatrix}a^2+bc&ab+b-ab\\ac+c-ac&bc+(1-a)^2\end{pmatrix}\overset!=\begin{pmatrix}a&b\\c&1-a\end{pmatrix}$$
Für die Nichtdiagonaleinträge gilt offensichtlich Gleichheit, ebenso für das Element links oben mittels der gegebenen Gleichung. Jetzt fehlt nur noch zu überprüfen, ob \(bc+(1-a)^2=1-a\) gilt. Multipliziere die Klammer aus und verwende wieder die gegebene Gleichung.