Die elementeweise Definition für das Matrixquadrat lässt sich wiefolgt schreiben:

\[c_{jk} = \sum_{n=1}^{m-1} a_{jn} a_{nk}\]
Für diese Summe kannst du nun die Fallunterscheidung \(j = k\) und \(j \ne k\) treffen.

Probier einmal selber weiterzurechnen, der vollständigkeit halber aber noch ein weiterer Lösungsweg (schemenhaft):

Betrachten wir zuerst den Fall \(j = k\): Aus der Symmetrie der Matrix folgt direkt \[c_{jk} = c_{jj} = \sum_{n=1}^{m-1} a_{jn}^2 = \sum_{n=1}^{m-1} \sin(\frac{\pi}{m}jn)^2\]
Setzt man \(\sin(\frac{\pi}{m}jn)^2 = \frac{1}{4} (2 - e^{2i\frac{\pi}{m}jn} -  e^{-2i\frac{\pi}{m}jn})\) ein lässt sich die Identität \(\sum_{n=1}^{m-1} \sin(\frac{\pi}{m}jn)^2 = \frac{m}{2}\) unter Verwendung der geometrischen Summe zeigen (Bedingung \(m\) ungerade wird hier wichtig!). Für die Diagonaleinträge ist \([E] = \frac{2}{m} [A]^2\) somit offensichtlich erfüllt.

Nun zu dem Fall \(j \ne k\): Wir erhalten für die einzelnen Koeffizienten des Matrizenquadrates
\[c_{jk} = \sum_{n=1}^{m-1} \sin(\frac{\pi}{m}jn)\sin(\frac{\pi}{m}kn) \\= -\frac{1}{4}\sum_{n=1}^{m-1} (e^{i\frac{\pi}{m}(j+k)n} + e^{-i\frac{\pi}{m}(j+k)n} - (e^{i\frac{\pi}{m}(j-k)n} + e^{-i\frac{\pi}{m}(j-k)n})\]
Verwendet man nun wieder die geometrische Summenformel lässt sich diese Summe als \(0\) berechnen.

Da der Rechenweg so recht aufwendig ist, bin ich mir nicht sicher, ob es nicht auch leichter geht, oder ob ihr bereits diese Sinussummen in der Vorlesung/Übung behandelt habt.