Da unklar ist, was Du gerechnet hast, was die Aufgabe ist und was Du rechnen willst, kann man das nur allgemein beantworten: bei det=0 ist es unentscheidbar und kann alles mögliche sein. Steht alles auf
https://de.wikipedia.org/wiki/Ger%C3%A4nderte_Hesse-MatrixDenk dran, beantwortete Fragen als solche abzuhaken (Anleitung siehe e-mail).