[рис.] а)  Используем формулу приведения и формулу $\cos 2 альфа = 2 \cos ^2 альфа - 1$ разложим на множители:

$2 \cos ^2 x + \cos 3x=1 + \sin ( $\frac{3 \pi}{2}$ - x ) = сильно \cos 2x= - ( \cos 3x + \cos x ) = сильно$

$ = сильно \cos 2x= - 2 \cos 2x \cos x = сильно \cos 2x ( 1 + 2 \cos x ) =0 = сильно$

$ = сильно \left[ \begin{array}{l} \cos 2x=0,1 + 2 \cos x=0 \end{array} \right. . = сильно \left[ \begin{array}{l} 2x= $\frac{\pi}{2}$ + \pi k, \cos x= - $\frac{1}{2}$ \end{array} \right. . = сильно \left[ \begin{array}{l} x= $\frac{\pi}{4}$ + $\frac{\pi k}{2}$ ,x=\pm $\frac{2 \pi}{3}$ + 2 \pi k, \end{array} \right. . k принадлежит Z$

б)  Отберём корни при помощи единичной окружности. Подходят $ - \frac{7 \pi}{4}$ $ - \frac{4 \pi}{3}$ $ - \frac{5 \pi}{4}$

Ответ: а) $\{ $\frac{\pi}{4}$ + $\frac{\pi k}{2}$ ;\pm $\frac{2 \pi}{3}$ + 2 \pi k:k принадлежит Z \}$ б) $ - \frac{7 \pi}{4}$ $ - \frac{4 \pi}{3}$ $ - \frac{5 \pi}{4}$