"Mit dem Gauß-Verfahren scheint man auf keine Lösung zu kommen"
Sicher?

\(\left(\begin{array}{cccc|c}
1 & 1 & 1 & a & 1 \\
2 & 2 & 2 & 3a & 2 \\
0 & 0 & b & 4 & 3 \\\end{array}\right)\)

II - 2*I:

\(\left(\begin{array}{cccc|c}
1 & 1 & 1 & a & 1 \\
0 & 0 & 0 & a & 0 \\
0 & 0 & b & 4 & 3 \\\end{array}\right)\)

\(\Leftrightarrow\)

\(\left(\begin{array}{cccc|c}
1 & 1 & 1 & a & 1 \\
0 & 0 & b & 4 & 3 \\
0 & 0 & 0 & a & 0 \\\end{array}\right)\)

\(\Rightarrow a\cdot x_4 = 0 \Leftrightarrow x_4 = 0\)

\(\Rightarrow b\cdot x_3 + 4\cdot x_4 = 3 \Leftrightarrow b\cdot x_3 + 0 = 3 \Leftrightarrow x_3 = \dfrac{3}{b}\)

etc.