https://de.wikipedia.org/wiki/Arkusfunktion

$\cos^{-1}$ ist die Umkehrfunktion von $\cos$. Während du mir $\cos(x)$ zu einem bestimmten Bogenmaß (oder Gradmaß) einen Wert zwischen $-1$ und $1$ erhältst, bestimmst du mit $\cos^{-1}$ zu einem Wert zwischen $-1$ und $1$ das entsprechende Bogenmaß (bzw. den Winkel) meist nur in einem bestimmten Intervall, da die trigonometrischen Funktionen ja periodisch sind.
z.B. Ist $\cos(2\pi)=1$, während $\cos^{-1}(1)=k\cdot 2\pi$ mit $k\in \mathbb{Z}$ ist. Im Intervall $[0,2\pi]$ liefert $\cos^{-1}(1)$ zwei Lösungen $x_1=0$ und $x_2=2\pi$.
Ich entnehme deiner Überschrift zur Frage das du mit Hilfe der Formel zur Berechnung des Winkels zwischen Vektoren Probleme hast. Poste doch vllt noch deine Aufgabenstellung und sag an welche Stelle in deiner Rechnung du Verständnisschwierigkeiten hast.