Заметим, что $\frac{1 - y}{y} = $\frac{1}{y}$ - 1$ при $y принадлежит ( 0; 1 )$ принимает значения из промежутка $( 0; + бесконечность )$ ровно по одному разу. Пусть $\frac{1 - y}{y} = t$ $t больше 0$ тогда второе уравнение примет вид:

$\frac{4x}{x ^2 + 1} = $\frac{t}{5}$ + $\frac{a}{t}$ + \frac{a}{4}$

Заметим, что уравнение $\frac{4x}{x ^2 + 1} = b$ разрешимо при $b принадлежит [ - 2; 2 ]$ При $b = 0$ корнем является $x = 0$ для прочих b уравнение сводится к квадратному $bx ^2 - 4x + b = 0$ с дискриминантом $D = 16 - 4b ^2$ неотрицательным при $b принадлежит [ - 2; 2 ]$
Пусть $\frac{4x}{x ^2 + 1} = z$ преобразуем первое неравенство системы:

$64x ^2 + 4x ( 4 - 5a ) ( x ^2 + 1 ) - 5a ( x ^2 + 1 ) ^2 меньше или = 0 = сильно$
$ = сильно ( 16x - 5a ( x ^2 + 1 ) ) ( 4x + x ^2 + 1 ) меньше или = 0 = сильно ( $\frac{16x}{x ^2 + 1}$ - 5a ) ( $\frac{4x}{x ^2 + 1}$ + 1 ) меньше или = 0$ $64x ^2 + 4x ( 4 - 5a ) ( x ^2 + 1 ) - 5a ( x ^2 + 1 ) ^2 меньше или = 0 = сильно$
$ = сильно ( 16x - 5a ( x ^2 + 1 ) ) ( 4x + x ^2 + 1 ) меньше или = 0 = сильно$
$ = сильно ( $\frac{16x}{x ^2 + 1}$ - 5a ) ( $\frac{4x}{x ^2 + 1}$ + 1 ) меньше или = 0$

Деление на $( x ^2 + 1 ) ^2 больше 0$ не приводит к потере корней, тогда можно записать систему в виде

$$$\begin{cases} ( z - 5a ) ( z + 1 ) меньше или = 0 \\[6pt] z = $\frac{t}{5}$ + $\frac{a}{t}$ + $\frac{a}{4}$ \\[6pt] t больше 0 \\[6pt] z принадлежит [ - 2 \\[6pt] 2 ] . \end{cases}$$$

Исследуем, при каких a удается подобрать t так, чтобы $z= - 1$   — такое z точно подходит в первое неравенство, и потому такие a не подойдут. Уравнение $ - 1 = $\frac{t}{5}$ + $\frac{a}{t}$ + \frac{a}{4}$ сводится к

$ - 20t = 4t ^2 + 20a + 5at = сильно 4t ^2 + ( 5a + 20 ) t + 20a = 0$

При $a больше 0$ положительных корней нет, все слагаемые положительны при $t больше 0$ а при отрицательных a положительный корень есть, при $t = 0$ выражение $4t ^2 + ( 5a + 20 ) t + 20a$ отрицательно, а при больших t  — положительно, поэтому на луче $( 0; + бесконечность )$ есть корень. При $a = 0$ уравнение $4t ^2 + 20t = 0$ положительных корней не имеет. Значит, $a больше или = 0$ В таком случае решением первого неравенства будет $z принадлежит [ - 1; 5a ]$ Заметим, что при $a больше или = 0$ $t больше 0$ получим $z = $\frac{t}{5}$ + $\frac{a}{t}$ + $\frac{a}{4}$ больше 0$ поэтому отрицательные z можно не рассматривать. Кроме того, $z меньше или = 2$ следовательно:
—  при $a = 0$ подходящих z нет.
—  при $0 меньше a меньше \frac{2}{5}$ требуется $z принадлежит ( 0; 5a ]$
—  при $a больше или = \frac{2}{5}$ требуется $z принадлежит ( 0; 2 ]$
Исследуем теперь, какие значения может принимать выражение $\frac{t}{5} + $\frac{a}{t}$ + \frac{a}{4}$ Его производная $\frac{1}{5} - \frac{a}{t ^2}$ отрицательна при $t ^2 меньше 5a$ и положительна при $t ^2 больше 5a$ Значит, выражение убывает при $t принадлежит ( 0; $\sqrt{аргумента: 5a}$ аргумента ]$ и возрастает при $t принадлежит [ $\sqrt{аргумента: 5a}$ аргумента ; + бесконечность )$ а наименьшее его значение достигается при $t = $\sqrt{аргумента: 5a}$ аргумента$ и = $2 \sqrt{аргумента: $\frac{a}{5}$} аргумента + \frac{a}{4}$ Если это значение попадает в допустимый для z интервал, то можно взять $t = $\sqrt{аргумента: 5a}$ аргумента$ соответствующее z, и получить решение системы. Если не попадает, то никакие другие значения выражения $\frac{t}{5} + $\frac{a}{t}$ + \frac{a}{4}$ не дадут допустимых z, и потому решений у системы не будет. Рассмотрим последний случай.
При $a меньше \frac{2}{5}$ нужно чтобы $5a меньше 2 \sqrt{аргумента: $\frac{a}{5}$} аргумента + \frac{a}{4}$ Решим это неравенство:

$19a меньше 8 \sqrt{аргумента: $\frac{a}{5}$} аргумента = сильно 361a ^2 меньше $\frac{64a}{5}$ = сильно 1805a меньше 64 = сильно a меньше $\frac{64}{1805}$ меньше \frac{2}{5}$

поэтому все такие a подходят.
При $a больше или = \frac{2}{5}$ нужно чтобы $2 меньше 2 \sqrt{аргумента: $\frac{a}{5}$} аргумента + \frac{a}{4}$ Заметим, что правая часть возрастает при росте a, поэтому достаточно найти то a, при котором будет равенство и взять a, большие его:

$2 = 2 \sqrt{аргумента: $\frac{a}{5}$} аргумента + $\frac{a}{4}$ = сильно 8 - a = 8 \sqrt{аргумента: $\frac{a}{5}$} аргумента = сильно 64 - 16a + a ^2 = $\frac{64a}{5}$ = сильно$
$ = сильно 320 - 80a + 5a ^2 = 64a = сильно 5a ^2 - 144a + 320 = 0$ $2 = 2 \sqrt{аргумента: $\frac{a}{5}$} аргумента + $\frac{a}{4}$ = сильно 8 - a = 8 \sqrt{аргумента: $\frac{a}{5}$} аргумента = сильно$
$ = сильно 64 - 16a + a ^2 = $\frac{64a}{5}$ = сильно 320 - 80a + 5a ^2 = 64a = сильно$
$ = сильно 5a ^2 - 144a + 320 = 0$

Отсюда

$a = \frac{144 \pm $\sqrt{аргумента: 144 ^2 - 4 \cdot 5 \cdot 320}$ аргумента}{10} = \frac{144 \pm 4 $\sqrt{аргумента: 36 ^2 - 4 \cdot 5 \cdot 20}$ аргумента}{10} = \frac{144 \pm 16 $\sqrt{аргумента: 9 ^2 - 5 \cdot 5}$ аргумента}{10} = \frac{144 \pm 16 $\sqrt{аргумента: 66}$ аргумента}{10}$ $a = \frac{144 \pm $\sqrt{аргумента: 144 ^2 - 4 \cdot 5 \cdot 320}$ аргумента}{10} = \frac{144 \pm 4 $\sqrt{аргумента: 36 ^2 - 4 \cdot 5 \cdot 20}$ аргумента}{10} =$
$= \frac{144 \pm 16 $\sqrt{аргумента: 9 ^2 - 5 \cdot 5}$ аргумента}{10} = \frac{144 \pm 16 $\sqrt{аргумента: 66}$ аргумента}{10}$ $a = \frac{144 \pm $\sqrt{аргумента: 144 ^2 - 4 \cdot 5 \cdot 320}$ аргумента}{10} =$
$= \frac{144 \pm 4 $\sqrt{аргумента: 36 ^2 - 4 \cdot 5 \cdot 20}$ аргумента}{10} =$
$= \frac{144 \pm 16 $\sqrt{аргумента: 9 ^2 - 5 \cdot 5}$ аргумента}{10} = \frac{144 \pm 16 $\sqrt{аргумента: 66}$ аргумента}{10}$

Значит, $a = \frac{8 ( 9 - $\sqrt{аргумента: 66}$ аргумента )}{5}$ а второй корень больше 8 и потому посторонний  — он появился при возведении в квадрат.

Ответ: $[ 0; $\frac{64}{1805}$ ) \cup ( \frac{8 ( 9 - $\sqrt{аргумента: 66}$ аргумента )}{5} ; + бесконечность )$