[рис.] а)  Пусть диагонали прямоугольника пересекаются в точке P. Из равенства треугольников ABC и BAD следует, что BM  =  AK. Тогда PM : BM  =  PK : AK. Отсюда получаем, что треугольники PMK и PAB подобны и прямые MK и AB параллельны, причем MK : AB  =  PM : PB. Аналогично, BM  =  CL, поэтому прямые ML и BC параллельны и ML : BC  =  PM : PB. Итак, стороны четырехугольника LMKN параллельны сторонам прямоугольника ABCD и пропорциональны им. Таким образом, LMKN прямоугольник, подобный прямоугольнику ABCD. Что и требовалось доказать.
б)  Без ограничения общности можно считать, что $\cos BPA = \frac{7}{25}$ Имеем:

$\angle BPA= \pi - 2\angle BAC = сильно \cos BPA= - \cos 2\angle BAC$

Отсюда $1 - 2 \cos ^2 \angle BAC= \frac{7}{25}$ Получаем, что $\cos \angle BAC= \frac{3}{5}$ Пусть AC  =  10x, тогда: AB  =  6x, BC  =  8x и

AK  =  (AB + AC − BC) : 2  =  4x.

Окончательно получаем, что

$MK:BA=PK:PA=x:5x=1:5$

Это и есть коэффициент подобия.

Ответ: б) 1 : 5.