Zu a) Wie immer, Vorsicht beim Lösen von Gleichungen durch Wurzelziehen. Es gibt zwei Lösungen. Die gefragte Lösung ist die durch den Punkt P. Wenn Du es prüfst, Deine erfüllt das nicht. Das hat nichts mit den Ableitungen zu tun, der Fehler ist vorher.
Zu b) Allgemein stimmt die Matrix. Die Frage war aber: ...in einer Umgebung von P ... welche Matrix?
Zu c) Hier empfehle ich die Gleichung \(f(t,x(t),y(t))=0\) nach \(t\) abzuleiten. Das gíbt zwei Gleichungen mit den Größen \(x(t),x'(t),y(t),y'(t)\). Das Umstellen nach dem unbekannten Vektor \((x'(t),y'(t)\), gefolgt von Einsetzen von P, liefert das gesuchte. Und hier wird Dir auch wieder die Matrix aus b) begegnen.