Заметим сразу, что сумма чисел не меняется, а разность уменьшается вдвое.
а)  Из чисел 1 и 17 получатся последовательно 5 и 13, 7 и 11, 8 и 10. На этом игра остановится.
б)  Если бы это было возможно, то разность между начальными числами за эти несколько ходов уменьшилась бы минимум в 512 раз. Значит, она стала бы равна 1, а изначально была 512. Тогда на предпоследнем ходе разность была равна 2. Однако из чисел x и x + 2 получаются числа x + 0,5 и x + 1,5, то есть нецелые.
в)  Пусть a b. Следует найти максимум выражения

$\frac{( 3a + b ) ( 3b + a )}{16ab} = $\frac{3a ^2 + 3b ^2 + 10ab}{16ab}$ = $\frac{3a ^2 - 6ab + 3b ^2 + 16ab}{16ab}$ = $\frac{3 ( b - a ) ^2}{16ab}$ + 1$ $\frac{( 3a + b ) ( 3b + a )}{16ab} = $\frac{3a ^2 + 3b ^2 + 10ab}{16ab}$ =$
$= $\frac{3a ^2 - 6ab + 3b ^2 + 16ab}{16ab}$ = $\frac{3 ( b - a ) ^2}{16ab}$ + 1$

Если уменьшить a и b на одно и то же число, то числитель дроби не изменится, а знаменатель уменьшиться, следовательно, дробь увеличится. Значит, в оптимальном случае a  =  1, поскольку иначе уменьшим a и b на a − 1. Тогда

$\frac{3 ( b - 1 ) ^2}{16b} + 1= $\frac{1}{16}$ ( 3b + $\frac{3}{b}$ + 10 )$

При увеличении b выражение 3b растет минимум на 3, а выражение $\frac{3}{b}$ уменьшится менее чем на 3, поскольку оно само не больше трех. Значит, самое большое значение будет при самом большом возможном b, то есть при b  =  997: при b  =  998, 999 первого хода сделать нельзя. Итак, нужно взять числа 1 и 997, получить из них 250 и 748, и получить ответ:

$\frac{250 \cdot 748}{997} = \frac{187 000}{997}$

Ответ: а)  да; б)  нет; в)   $целая часть: 187, дробная часть: числитель: 561, знаменатель: 997$