а)  Один из множителей должен быть равен нулю. Либо $\ctg x=0$ $x= $\frac{\pi}{2}$ + \pi k$ либо $2 \cos ^2 x - \cos x - 1=0$ то есть $( \cos x - 1 ) ( 2 \cos x + 1 ) =0$ [рис.] Либо $\cos x=1$ (но тогда \text{ctg} не определен), либо $\cos x= - \frac{1}{2}$ Кроме того, $\ctg x$ должен быть отрицательным, поэтому годится только $\frac{2 \pi}{3} + 2 \pi k$
б)  По тригонометрическому кругу отберем корни на отрезке  — $x= \frac{15 \pi}{2}$ $x= \frac{17 \pi}{2}$ $x= \frac{26 \pi}{3}$
Ответ: а) $\{ $\frac{\pi}{2}$ + \pi k, $\frac{2 \pi}{3}$ + 2 \pi k : k принадлежит Z \}$ б) $\frac{15 \pi}{2} , $\frac{17 \pi}{2}$ , \frac{26 \pi}{3}$