Рассмотрим эквивалентную задачу. Представим, что Петя вынул из кармана все монеты, а потом случайным образом положил пятирублевую монету в какой-⁠то карман. Для другой пятирублевой монеты в карманах осталось 5  мест, из них в пустом кармане  — 3  места. Поэтому искомая вероятность равна $\frac{3}{5}$

Ответ: 0,6.

Приведем другое решение.
Чтобы пятирублевые монеты оказались в разных карманах, Петя должен взять из кармана одну пятирублевую и две десятирублевые монеты. Это можно сделать тремя способами: 5, 10, 10; 10, 5, 10 или 10, 10, 5. Эти события несовместные, вероятность их суммы равна сумме вероятностей этих событий:

$\frac{2}{6} \cdot $\frac{4}{5}$ \cdot $\frac{3}{4}$ + $\frac{4}{6}$ \cdot $\frac{2}{5}$ \cdot $\frac{3}{4}$ + $\frac{4}{6}$ \cdot $\frac{3}{5}$ \cdot $\frac{2}{4}$ = \frac{3}{5}$

Приведем еще одно решение.
Вероятность того, что Петя взял пятирублевую монету, затем десятирублевую, и затем еще одну десятирублевую (в указанном порядке), равна

$\frac{2}{6} \cdot $\frac{4}{5}$ \cdot $\frac{3}{4}$ = \frac{1}{5}$

Поскольку Петя мог достать пятирублевую монету не только первой, но и второй или третьей, вероятность достать набор из одной пятирублевой и двух десятирублевых монет в 3 раза больше. Таким образом, она равна 0,6.

Ответ: 0,6.

Приведем решение при помощи формул комбинаторики.
Количество способов взять 3 монеты из 6, чтобы переложить их в другой карман, = $C ^3 _6$ Количество способов выбрать 1 пятирублевую монету из 2 пятирублевых монет и взять вместе с ней еще 2 десятирублевых монеты из имеющихся 4 десятирублевых монет по правилу произведения = $C в степени 1 _2 \cdot C ^2 _4$ Поэтому искомая вероятность того, что пятирублевые монеты лежат в разных карманах, равна

$\frac{C в степени 1 _2 \cdot C ^2 _4}{C ^3 _6} = $\frac{2 \cdot 6}{20}$ =0,6$