Mathematik ist immer gut darin, einfach so zu tun, als hätte man die Lösung und einfach loszurechnen. Gehe also davon aus, dass Du die Lösung \(\vec{c}\) bereits hast und stelle damit Deine Gleichungen auf:

\(
\cos 60° = \frac{\vec{a}\circ\vec{c}}{\vert\vec{a}\vert\cdot\vert\vec{c}\vert}\\
\cos 90° = \frac{\vec{b}\circ\vec{c}}{\vert\vec{b}\vert\cdot\vert\vec{c}\vert}
\)

In dieser setzt Du \(c_1, c_2, c_3\) bzw. die Zahlen bei \(\vec{a}\) und \(\vec{b}\) ein und rechnest das Skalarprodukt und die Beträge einfach aus (Winkel zwischen zwei Vektoren - Mathebibel.de). Dann hast Du zwei Gleichungen und drei Unbekannte \(c_1, c_2, c_3\) und kannst damit die Lösungsmenge bestimmen. Wenn Du einen Taschenrechner oder ein Algebraprogramm nutzen darfst, würde ich die beiden obigen Gleichungen in die solve-Funktion werfen und das Programm rechnen lassen. Sonst ist es viel Handarbeit mit den Quadraten, die sich bei den Beträgen ergeben.