Заметим, что вместе с каждым решением $( x;y )$ система имеет также решения $( y;x ) ; ( - x; - y ) ; ( - y; - x )$ Поскольку решений должно быть два, полученные пары должны совпадать.
1.  Если $( x;y ) = ( y;x )$ то $x=y$ Тогда $2x ^2 =a ^2 ,x ^2 =a ^2 - 3a$ откуда

$2a ^2 - 6a=a ^2 = сильно a ^2 - 6a=0 = сильно \left[ \begin{array}{l} a=0,a=6. \end{array} \right.$

Проверка показывает, что при $a=6$ система $x ^2 + y ^2 =36,xy=18$ имеет два решения. При $a=0$ получаем $x ^2 + y ^2 =0,xy=0$ Эта система имеет только одно решение.
2.  Если $( x;y ) = ( - x; - y )$ то $x=y=0$ Тогда $a=0$ этот случай исследован выше.
3.  Если $( x;y ) = ( - y; - x )$ то $x= - y:$ Тогда: $2x ^2 =a ^2 , - x ^2 =a ^2 - 3a$ откуда

$3a ^2 - 6a=0 = сильно \left[ \begin{array}{l} a=0,a=2. \end{array} \right.$

Проверка показывает, что при $a=2$ система $x ^2 + y ^2 =4,xy= - 2$ имеет два решения.
4.  Если $( y;x ) = ( - x; - y )$ то $x= - y$   — см. случай 3.
5.  Если $( y;x ) = ( - y; - x )$ то $x=y=0$   — см. случай 2.
6.  Если $( - x; - y ) = ( - y; - x )$ то $x=y$   — см. случай 1.

Приведем другое решение.
При a  =  0 первое уравнение описывает точку (0; 0), а второе оси координат $x=0,y=0$ и, значит, система имеет единственное решение.
Дальше будем считать, что $a\not=0$ В этом случае, первое уравнение описывает окружность с центром в (0; 0) и радиусом |a|. При a  =  3 второе уравнение снова описывает оси координат $x=0,y=0$ и, значит, система имеет четыре решения. При $a\not=3$ второе уравнение может быть преобразовано в уравнение $y= \frac{a ^2 - 3a}{x}$ поскольку в этом случае ни x, ни y в ноль не обращаются. Это уравнение гиперболы.
Заметим, теперь, что обе кривые описываемые уравнениями системы симметричны относительно начала координат, значит, два решения система будет иметь только в случае касания окружности и гиперболы. Рассмотрим уравнение, описывающее точки их пересечения

$x ^2 + ( $\frac{a ^2 - 3a}{x}$ ) ^2 =a ^2 = сильно x в степени 4 - a ^2 x ^2 + a ^2 ( a - 3 ) ^2 =0$

Сделаем замену $t=x ^2$ тогда, в случае касания, уравнение $t ^2 - a ^2 t + a ^2 ( a - 3 ) ^2 =0$ должно иметь единственный положительный корень. Заметим, что если оно имеет корни, то это либо два корня одного знака, либо один корень. Значит, нас интересует случай, когда его дискриминант равен нулю и единственный корень при этом положительный.

$D=a в степени 4 - 4a ^2 ( a - 3 ) ^2 = - 3a в степени 4 + 24a ^3 - 36a ^2 =0 = сильно a ^2 ( a ^2 - 8a + 12 ) =0 = сильно \left[ \begin{array}{l} a=0,a=2,a=6. \end{array} \right.$ $D=a в степени 4 - 4a ^2 ( a - 3 ) ^2 = - 3a в степени 4 + 24a ^3 - 36a ^2 =0 = сильно$
$ = сильно a ^2 ( a ^2 - 8a + 12 ) =0 = сильно \left[ \begin{array}{l} a=0,a=2,a=6. \end{array} \right.$

Проверка показывает, что при a  =  2 и a  =  6 уравнение имеет положительный корень, a  =  0 не подходит.

Ответ: $a=2,a=6$