Es gibt Matrizen, die erfüllen $AA^T=I$, wobei $I$ die Einheitmatrix ist. Was für besondere Matrizen sind das? Jetzt kann man $A$ so skalieren, dass $\tilde{A}=kA$ gilt und $\tilde{A}\tilde{A^T}=k^2I$ ist. Welche Determinante hat $k^2I$? Wie muss also $k$ gewählt werden? 

Das ist die komplizierte Variante. Man kann sich auch sehr einfache Matrizen konstruieren (symmetrisch, kleine Dimension, etc.). Außerdem: Welche Eigenschaft für Determinanten kennst du denn? Kann man $\det(MM^T)=8$ nicht auch anders schreiben? Es gibt so viele Möglichkeiten, wie man zum Ziel kommt und du hast keine einzige Idee?

Zu deiner Frage: Man muss eben sämtliche Eigenschaften und Formel kennen und damit arbeiten. Ein Probieren ist nicht notwendig. Schlage also dein Skript auf und suche heraus, was dir zur Lösung der Aufgabe helfen könnte. Einige Möglichkeiten habe ich dir genannt. Jetzt bist du dran.

Das richtige Vorgehen bei Mathe-Aufgaben ist eine richtige Mischung von Ausprobieren mit ein wenig (reicht hier) Grundwissen.
Man fängt mit der einfachsten Idee an und arbeitet sich dann weiter.
Fang also mal mit $M=I$ an, probiere und ändere was ab, falls nötig.