Du hast doch ein Matrix \(M_{mn}\), also m Zeilen und n Spalten. Dein n ist die Anzahl der Spalten - bei einem Gleichungssystem entspricht das der Anzahl der Variablen.

In deinem Beispiel ist also n = 3.

Du musst also deine erweiterte Matrix mit dem Gauß-Verfahren umformen. Dann nutzt du die Informationen die du erhälst, wenn du dir den Rang von A und den von A' vergleichst.

Rang(A) \(\ne\) Rang(A') => keine Lösung.
Rang(A) = Rang(A') = n (hier 3) => genau eine Lösung
Rang(A) = Rang(A') \(\ne\) n => mehr als eine Lösung

Der Rang einer Matrix ist übrigens die Anzahl der Zeilen, die keine Nullzeilen sind (nach Anwendung von Gauß).