Hallo,

ich nehme jetzt einfach mal an, dass hier die euklidische Norm mit dem Betrag gemeint ist. Dann hast du dort das euklidische Skalarprodukt stehen. Wie ist das denn definiert?

$$ |b-Mx|^2 = \left<b-Mx, b-Mx \right> = ? $$

Jetzt hast du zwei Möglichkeiten. Entweder du leitest das Resultat mit der Produktregel ab oder du klammerst alles aus. Eine Abbildung mit einem Vektor als (einzige) Variable leitet sich fast genauso wie eine Funktion in 1D ab. Also es ist beispielsweise

$$ \frac {\mathrm{d} \vec b} {\mathrm{d} \vec x} = 0 $$

(Ableitung einer konstanten) oder

$$ \frac {\mathrm{d} M \vec{x}} {\mathrm{d} \vec x} = M $$

(\(M\) als gedachte "Sammlung" von Vorfaktoren)..

Es gibt 2 tükische Knackpunkte. Einmal transponierte Variablen \( x^T \) und wir müssen hier ganz stark auf die Reihenfolge achten, weil Vektoren und Matrizen im Allgemeinen nicht kommutativ sind. 

Versuch dich vielleicht einfach mal. Noch als Tipp, wir haben hier eine Funktion die auf ein Skalar abbildet. Für jedes Skalar \(a\) gilt \( a^T = a \). Wir können die ganze Gleichung also transponieren und erhalten den selben Wert. Vielleicht hilft dir das bei den transponierten Variablen. 
Falls du nicht weiter kommst, melde dich gerne nochmal.

Grüße Christian