Для того, чтобы пара чисел была решением неравенства, необходимо и достаточно, чтобы одно из выражений в скобках было положительно, а второе отрицательно. Выясним, когда так происходит.
Выражение в первой скобке отрицательно в точках $( 0;0 )$ $( \pm 1;0 )$ $( 0;\pm 1 )$ $( \pm 1;\pm 1 )$ и положительно во всех остальных точках.
Разберем несколько случаев.
$a меньше 1$ Выражение во второй скобке положительно в точках $( \pm 1;0 )$ $( 0;\pm 1 )$ $( \pm 1;\pm 1 )$ что дает уже 8 решений.
$a принадлежит [ 1;2 )$ Выражение во второй скобке неположительно только в точках $( 0;0 )$ $( \pm 1;0 )$ $( 0;\pm 1 )$ поэтому имеется ровно 4 решения $( \pm 1;\pm 1 )$
$a принадлежит [ 2;4 )$ Выражение во второй скобке неположительно только в точках $( 0;0 )$ $( \pm 1;0 )$ $( 0;\pm 1 )$ $( \pm 1;\pm 1 )$ решений нет.
$a=4$ Выражение во второй скобке неположительно только в точках

$( 0;0 )$ $( \pm 1;0 )$ $( 0;\pm 1 )$ $( \pm 1;\pm 1 )$ $( \pm 2;0 )$ $( 0;\pm 2 )$ решений нет.

$a принадлежит ( 4;5 ]$ Выражение во второй скобке отрицательно только в точках.
$( 0;0 )$ $( \pm 1;0 )$ $( 0;\pm 1 )$ $( \pm 1;\pm 1 )$ $( \pm 2;0 )$ $( 0;\pm 2 )$ поэтому имеется ровно 4 решения $( \pm 2;0 )$ $( 0;\pm 2 )$
$a больше 5$ Выражение во второй скобке отрицательно в точках $( \pm 1;\pm 2 )$ $( \pm 2; \pm 1 )$ что дает уже 8 решений.

Ответ: $a принадлежит [ 1;2 ) \cup ( 4;5 ]$

Примечание. С геометрической точки зрения мы ищем целые точки в некотором кольце с центром в начале координат.