Erst einmal zu a):

Hast Du die Gleichungen umgeformt zu

r + aY = r0

r - cY = 0

???

Damit komme ich auf Ax = b in folgender Form

( 1 +a )  (r)        ( r0 )

(         )  (  )   =  (     )

(1  -c )  (Y)        (  0 )

Sorry, ich kann die Matrix und die beiden Vektoren nicht besser darstellen. (Die Hinweise zu Formeleingaben funktionieren bei mir nicht ...  ie untereinander liegenden Klammern sind als "große" Klammern zu sehen.)

Es ist alles richtig bis auf ganz am Ende mit den Vorzeichen: \(r=\frac{-r_0\,c}{-c-a}= \frac{r_0\,c}{c+a}\) und \(Y=\frac{r_0}{c+a}\): Probe damit funktioniert!