а)  Пусть Q  — центр второй окружности, M и N  — её точки касания со сторонами AB и AC соответственно, а точка H  — проекция точки Q на BC. Имеем: $AB= $\sqrt{аргумента: AC ^2 + BC ^2}$ аргумента =13$ следовательно, $\cos \angle A= $\frac{12}{13}$ , \sin \angle A= \frac{5}{13}$ Тогда $\text{tg} \angle NAQ= \text{tg} $\frac{\angle A}{2}$ = $\frac{\sin \angle A}{1 + \cos \angle A}$ = \frac{1}{5}$ Поэтому $AC больше AN=5NQ$ что и требовалось доказать. [рис.]
б)  Пусть x  — радиус второй окружности. Рассмотрим прямоугольный треугольник OHQ:

$QH=CN=12 - 5x больше 0, OQ=x + $\frac{1}{2}$ , OH=|OC - CH|=\left| $\frac{1}{2}$ - x|$

По теореме Пифагора OH2 + QH2  =  OQ2, откуда

$( 12 - 5x ) ^2 + ( $\frac{1}{2}$ - x ) ^2 = ( $\frac{1}{2}$ + x ) ^2 = сильно 25x ^2 - 122x + 144=0 = сильно \left[ \begin{array}{l} новая строка x=2, новая строка x=2,88. \end{array} \right.$ $( 12 - 5x ) ^2 + ( $\frac{1}{2}$ - x ) ^2 = ( $\frac{1}{2}$ + x ) ^2 = сильно$
$ = сильно 25x ^2 - 122x + 144=0 = сильно \left[ \begin{array}{l} новая строка x=2, новая строка x=2,88. \end{array} \right.$

Условию 12 − 5x > 0 удовлетворяет только x  =  2.

Ответ: 2.

Примечание.
Заметим, что радиус окружности, вписанной в данный треугольник также равен 2. Это означает, что большая окружность в действительности является вписанной в треугольник и касается катета ВС. Это не влияет на правильность проведенных вычислений. [рис.]

Приведем решение пункта а) Ивана Иванова (Владивосток).
По теореме Пифагора находим AB  =  13. Далее $OQ = $\frac{1}{2}$ + x$ $OH = \left|x - $\frac{1}{2}$ |$ По теореме Пифагора в треугольнике QOH:

$QH = $\sqrt{аргумента: OQ ^2 - OH ^2}$ аргумента = \sqrt{аргумента: ( $\frac{1}{2}$ + x ) ^2 - ( x - $\frac{1}{2}$ ) ^2} аргумента = $\sqrt{аргумента: 2x}$ аргумента$

Пусть $QH = y$ тогда $x = \frac{y ^2}{2}$ Площадь треугольника АВС равна сумме площадей треугольников BQC, AQC и AQB. Выразим площадь:

$S_ABC = $\frac{1}{2}$ \cdot AC \cdot BC = $\frac{1}{2}$ \cdot 12 \cdot 5 = 30$
$S_ABC = $\frac{1}{2}$ \cdot BC \cdot QH + $\frac{1}{2}$ \cdot AC \cdot QN + $\frac{1}{2}$ \cdot AB \cdot QM = $\frac{5}{2}$ \cdot y + $\frac{25}{2}$ \cdot x$

Приравнивая эти выражения, получаем уравнение:

$\frac{5}{2} \cdot y + $\frac{25}{2}$ \cdot x = 30 = сильно $\frac{5}{2}$ \cdot y + $\frac{25}{4}$ \cdot y ^2 - 30 = 0 = сильно 5y ^2 + 2y - 24 = 0 \underset y больше 0 \mathop = сильно y = 2$ $\frac{5}{2} \cdot y + $\frac{25}{2}$ \cdot x = 30 = сильно $\frac{5}{2}$ \cdot y + $\frac{25}{4}$ \cdot y ^2 - 30 = 0 = сильно$
$ = сильно 5y ^2 + 2y - 24 = 0 \underset y больше 0 \mathop = сильно y = 2$

следовательно, $x = $\frac{4}{2}$ = 2$ Найденное значение радиуса второй окружности удовлетворяет условию пункта а) задачи, тем самым доказывая утверждение «радиус второй окружности меньше чем  $\frac{1}{5}$ длины катета AC».