[рис.] а)  Предположим для определённости, что точка E лежит на катете BC, а точка K  — на катете AC. Проведём отрезок KE и заметим, что он является гипотенузой прямоугольного треугольника KCE, подобного треугольнику ABC.
Рассмотрим углы четырёхугольника ABEK. Если ∠ABE  =  α, то

$\angle BEK=\angle BEH + \angle HEK=90 ^{\circ} + альфа$ а $\angle KAB=90 ^{\circ} - альфа$

Значит,

$\angle BEK + \angle KAB =90 ^{\circ} + альфа + 90 ^{\circ} - альфа =180 ^{\circ}$

Сумма двух противоположных углов в четырёхугольнике 180°, следовательно, четырёхугольник вписан в окружность.

б)  Радиус окружности, проходящей через точки A, B и E, найдем по теореме \sin ов:

$R= $\frac{AB}{2 \sin \angle BEA}$ = \frac{AB}{2 \sin \angle AEC}$

Из подобия треугольников CEH и ABC находим

$\frac{CE}{CH} = \frac{AC}{AB}$ откуда $CE= \frac{CH \cdot AC}{AB}$

Тогда

$AE= $\sqrt{аргумента: CE ^2 + AC ^2}$ аргумента =AC \cdot \sqrt{аргумента: $\frac{CH ^2 + AB ^2}{AB ^2}$} аргумента = $\frac{AC}{AB}$ $\sqrt{аргумента: CH ^2 + AB ^2}$ аргумента$

Поэтому

$\sin \angle AEC= $\frac{AC}{AE}$ = \frac{AB}{$\sqrt{аргумента: CH ^2 + AB ^2}$ аргумента}$

Следовательно, искомый радиус

$R= \frac{AB}{\dfrac2AB $\sqrt{аргумента: CH ^2 + AB ^2}$ аргумента} = $\frac{1}{2}$ $\sqrt{аргумента: CH ^2 + AB ^2}$ аргумента = \frac{13}{2}$

[рис.] Приведем еще одно решение пункта б).
Продолжим отрезок  КН за точку  Н, точку его пересечения окружностью назовем  Р. Прямые KP и ВС параллельны, следовательно, $\angle PHB=\angle HBC=\angle ABC$ Заметим, что $\angle KPB=\angle KAB=\angle CAB$ как вписанные, опирающиеся на одну дугу. Значит,

$\angle PBH=180 ^{\circ} - \angle PHB - \angle HPB=180 ^{\circ} - \angle ABC - \angle CAB=90 ^{\circ}$

то есть $\angle ABP$   — прямой. Таким образом, прямые BP и СH параллельны, и четырехугольник CHPB  — параллелограмм, в котором BP  =  CH  =  5. Отрезок  AP  — диаметр окружности, найдем его из прямоугольного треугольника ABP:

$AP= $\sqrt{аргумента: AB ^2 + BP ^2}$ аргумента = $\sqrt{аргумента: 12 ^2 + 5 ^2}$ аргумента =13$

Следовательно, искомый радиус $R= $\frac{AP}{2}$ = \frac{13}{2}$

Приведем решение пункта б) Евгения Матвеева.
В прямоугольном треугольнике ABC имеем: $BC=AB \sin A$ В прямоугольном треугольнике CHK имеем: $CK=CH \cos \angle HCK=CH \sin A$ Тогда $BK= $\sqrt{аргумента: ( AB ^2 + CH ^2 ) \cdot \sin ^2 A}$ аргумента =13 \sin A$ Радиус окружности, описанной вокруг треугольника ABK по теореме \sin ов

$R= $\frac{BK}{2 \sin A}$ = $\frac{13 \sin A}{2 \sin A}$ = \frac{13}{2}$

Ответ: $\frac{13}{2}$