[рис.] Пусть r  — ‍ искомый радиус. Соединим попарно центры шаров. Получим правильный тетраэдр со стороной 2r.‍ Так как шары вписаны в трёхгранные углы при вершинах правильного тетраэдра, то их центры лежат на соответствующих высотах тетраэдра. Поэтому центр правильного тетраэдра с вершинами в центрах данных шаров совпадает с центром O‍ данного правильного тетраэдра.
Пусть шар радиуса r‍ с центром O‍1,‍ вписанный в трёхгранный угол с вершиной D,‍ касается плоскости грани ABD‍ данного правильного тетраэдра ABCD‍ со стороной a‍ в точке P.‍
Тогда

$O_1P=r,OD= $\frac{3}{4}$ \cdot $\frac{1}{3}$ a $\sqrt{6}$ = \frac{a $\sqrt{6}$}{4} ,OO_1 = $\frac{3}{4}$ \cdot $\frac{1}{3}$ \cdot 2r $\sqrt{6}$ = \frac{r $\sqrt{6}$}{2}$
$O_1D=OD - OO_1= \frac{a $\sqrt{6}$}{4} - \frac{r $\sqrt{6}$}{2} = \frac{$\sqrt{6}$ ( a - 2r )}{4}$

Пусть M  — ‍ центр основания ABC,‍ K  — ‍ середина AB,‍ φ  — ‍ угол между высотой тетраэдра и плоскостью его грани. Из прямоугольного треугольника DMK‍ находим, что

$\sin \varphi = $\frac{MK}{DK}$ = \frac{\frac{a $\sqrt{3}$}{6} ,}{\frac{a $\sqrt{3}$}{2}} = \frac{1}{3}$

Значит, $O_1D= \frac{O_1P}{\sin \varphi}$ или $\frac{$\sqrt{6}$ ( a - 2r )}{4} =3r$ откуда находим, что $r= \frac{a ( $\sqrt{6}$ - 1 )}{10}$

Ответ: $r= \frac{a ( $\sqrt{6}$ - 1 )}{10}$