Подумал еще раз. Похоже, правильный ответ был.
Тока n-не число экспериментов, а число попаданий и делить на n не надо. Т.е. для каждого возможного результата числа попаданий N(от 0 до Inf есть его вер-ть (p^N)(1-p). Суммируя произведения результатов на их вер-ти получаем
lim {p*(1-p)*(1+p+2*p+3*p^2+...+n*p^[n-1])}
n->+Inf
При 0<p<1 предел, вроде,должен сходиться. Брать лень. Если очень надо, то попробую подумать.

PS: Вот так бывает, сначала напишешь правильно на автамате, а как начнешь потом задумываться - неуверенность появляется. А потом еще раз подумаешь - Хех! А на автомате-то правильно было!