Also ich würde mir einfach eine Funktion \(f\) nehmen und die Operatoren darauf anwenden. Für \(a)\) bekommen wir dann:

\(\hat{A}\hat{B} f = \hat{A}(\frac{\text{d}}{\text{d}x}+x)f(x) = \hat{A}(f'(x)+xf(x)) = (\frac{\text{d}}{\text{d}x}-x)(f'(x)+xf(x)) = f''(x)-xf'(x)+(f(x)+xf'(x))-x^2f(x) = f''(x)+f(x)-x^2f(x)\).

\(\hat{B}\hat{A}f = \hat{B}(\frac{\text{d}}{\text{d}x}-x)f(x) =... = f''(x)+-f(x)-x^2f(x)\)

Also ist 

\([\hat{A},\hat{B}]f = f''(x)+f(x)-x^2f(x)-(f''(x)-f(x)-x^2f(x)) = f(x) = \text{id}f, \quad \implies [\hat{A},\hat{B}] = \text{id}\).

Für \(b)\) sollte es analog funktionieren, kannst du ja nochmal probieren.