Für \(x\neq0\) ist die Funktion differenzierbar, du solltest in der Lage sein, die Ableitung mittels Produkt- und Kettenregel zu bilden.

Die interessante Stelle ist \(x=0\). Damit \(f\) bei \(0\) differenzierbar ist, muss \(\lim_{h\to0}\frac{f(h)-f(0)}{h}=\lim_{h\to0}\frac{h^2\cos(\ln(h^2))}h\) existieren. Wir können ein \(h\) schonmal kürzen, um auf \(\lim_{h\to0}h\cos(\ln(h^2))\) zu kommen. Nun gilt \(h\to0\) und \(\cos(\ln(h^2))\) ist beschränkt (durch \(\pm1\)), folglich ist der Grenzwert \(0\), also existiert die Ableitung und \(f'(0)=0\).

Nun musst du nur noch untersuchen, ob die Ableitung stetig ist, dazu musst du nachrechnen, ob \(\lim_{x\to0}f'(x)=f'(0)=0\).