Du musst für diesen Lösungsweg das Dyadische Produkt kennen - wenn dir das gar nichts sagt, solltest du dich dazu informieren. `E_{2}` ist die Einheitsmatrix des `R^2`.Vielleicht habt ihr die verwendete Formel ja sogar irgendwo annähernd im Skript stehen, im Herleiten und Begründen dieser Dinge bin ich leider nicht wirklich gut.
Der Weg ist hier, dass du den gerade bestimmten Normalenvektor mit sich selbst multiplizierst (als Dyadisches Produkt) und diese Matrix mit 2 multiplizierst. Dise Matrix ziehst du von der Einheitsmatrix ab und hast dein Ergebnis.

Wenn dir ein anderer Weg besser gefällt (so wie mir eigentlich auch, weil zwar länger aber besser verständlich) empfehle ich dieses Video:

Dort wird das Gleiche für eine leicht andere Gerade gemacht, bis auf die Vorzeichen ist alles identisch, was zeigen sollte das eigentlich beide Wege funktionieren.

Zunächst wird der Richtungsvektor der Geraden g bestimmt: Das ist offensichtlich (8,-6) was vereinfacht werden kann (einfach kürzen) zu (4,-3). Für die orthogonale Spiegelung (das solltest du mal nachschauen, zur Not kann ich aber später auch noch ein Bild malen) brauchst du einen zum Richtungsvektor orthogonalen Vektor.

Das ist ein Vektor, wobei das Skalarprodukt mit dem Richtungsvektor 0 gibt, also z.B. (3,4) da 3*4-3*4=0.

Dieser Normalenvektor wird jetzt auf 1 normiert; die Länge ist nach dem Satz des Phytagoras 5, also wird mit 1/5 multipliziert.

Soweit das Einfache, konntest du folgen?