Ich verstehe die Aufgabe so: Gegeben seien \(U:=(0,1)\times(1,2)^2\) und \(\psi\colon U\to\mathbb{R}^3\) mit \[\psi(u,v,w):=\pmatrix{u+2v\\ 2u+w^2\\uv}.\] Berechnet werden soll \[\mathrm{vol}_3(\psi(U))=\int_U|\det J_\psi(u,v,w)|\,\mathrm{d}(u,v,w) = \int_0^1\int_1^2\int_1^2|\det J_\psi(u,v,w)|\,\mathrm{d}w\,\mathrm{d}v\,\mathrm{d}u.\] Die Formel am Schluss gilt so aber nur, falls \(\psi\) ein Diffeomorphismus zwischen \(U\) und \(V:=\psi(U)\) ist. Dass die Jacobimatrix in \(U\) überall invertierbar ist, kann man leicht prüfen. Man muss jetzt noch zeigen, dass \(\psi\) injektiv ist. Dazu muss man ein nichtlineares Gleichungssystem lösen. Du hast das schon versucht, um die Umkehrabbildung zu berechnen, das ist ganz ähnlich. Probiere das noch mal, ist nicht ganz einfach. Das Bild von \(\psi\) brauchst du aber eigentlich nicht zu berechnen, wie die Formel oben zeigt.

Melde Dich, falls Du nicht weiter kommst.