Расставим знаки.

(Чтобы решить алгебраическое уравнение), (1) [нужно знать математические формулы], (2) (применение (3) которых (4) поможет выполнить задание).

В этом сложноподчинённом предложении одно главное и два придаточных. Выделим союзы и союзные слова курсивом и сделаем схему предложения.
(Чтобы  =  ),[  =  ], (− которых  =  ).

Запятые 1 и 2 ставятся на границах простых предложений по общему правилу. Запятых 3 и 4 не должно быть, поставить их  — значит допустить грубейшую ошибку.

Ответ: 12.