Hallo,

Linearität bedeutet, das 

$$f(\lambda \cdot x_1 + x_2) = \lambda f(x_1) + f(x_2)$$

gilt. Das Integral ist ein linearer Operator, denn wir dürfen sowohl einen konstanten Vorfaktor vor das Integral ziehen, als auch eine Summe als Integrand in eine Summe von Integralen zerlegen. 
Wir nutzen hier also die Linearität um $n^2$ vor das Integral zu holen. Weiter wird folgendermaßen umgeformt

$$\begin{array}{ccccl} & \int e^x \cos(nx) \mathrm{d}x & = &  e^x \cos(nx) + ne^x \sin(nx) - n^2 \int e^x \cos(nx) \mathrm{d}x  & | + n^2 \int e^x \cos(nx) \mathrm{d}x  \\ \Rightarrow & 1  \int e^x \cos(nx) \mathrm{d}x + n^2 \int e^x \cos(nx) \mathrm{d}x & = &  e^x \cos(nx) + ne^x \sin(nx) \\ \Rightarrow & (n^2 + 1)  \int e^x \cos(nx) \mathrm{d}x & = & e^x \cos(nx) + ne^x \sin(nx) & | \div (n^2 +1) \\ \Rightarrow & \int e^x \cos(nx) \mathrm{d}x & = & \frac {e^x \cos(nx) + ne^x \sin(nx)} {n^2 +1} \end{array}$$

Grüße Christian