В статистике учат, что частотная вероятность равна:
P{k=k1}=N(k=k1)/N(total)

Стоит задача аппроксимировать функ. распр. вероятностей, исходя из имеющихся данных, некоторой функцией.

Идея состоит в том, чтобы использовать метод наименьших квадратов:
т.е. найти
min( Sum( ( Pth(A;..) - P{...}/W(...) )^2 ) )
в пространстве параметров, где Pth(A;..) - функция распр. вероятностей, зав. от параметров, P{...} - частотные вероятности.
Но тогда нужно знать веса W(...) - то есть оценки погр. на вер.

Итак, как оценить погрешность оценки на вероятность?

Кто знает другие алгоритмы на эту тему?

Посмотрите формулу хи-квадрат распределения и, соответственно, теорему Фишера.

Если Вы станете минимизировать величину хи в квадрате
(оценка правдоподопия избранной гипотезы)
по параметрам распределения, то получите в точности метод
наименьших квадратов.

Полученный в результате минимизации набор параметров будет
обладать максимальным правдоподобием, а это и означает наилучшую аппроксимацию функции распределения.
Или я что-то не так понял?

Проблема в том, что для МНК нужно знать веса W... Если их правильно оценить, тогда можно надеятся на то, что на выходе будет правильная оценка для среднего и погрешность на найденные параметры.

Пока все что я придумал - вычислять частотные вероятности из различных выборок (в которых сохраняется нужное распределение) и их уже оценивать как случ. величины... Так вроде все честно, с точность до какого-нибудь коэф. типа Sqrt[2] в нужном месте ))...

Фраза "правильно оценить веса" -- некорректна. Задав каким-либо образом весовую функцию Вы тем самым и зададите некоторый критерий оптимальности аппроксимации.
Чем одна весовая функция может быть лучше другой?

Как правило, весовые функции задаются исходя из какой либо дополнительной информации об эмпирических данных с тем, чтобы подчеркнуть важность некоторых областей перед другими.

Посмотрите теорию здесь.

странное предложение и неверное

Обычно вес=1/погрешность
В этом смысле фраза вполне корректна.
А вообще проблема корректности и не корректности меня мало волнует. Нужен ответ и правильный.

на некоректный вопрос

правильный ответ - 8.

А не подскажите, где есть хороший форум, где тусуются професиональные статистики?


Если этому не учат в Университете и школе, это не означает, что вопрос - не корректный. 

подскажем

nsu.ru 

сайт новосибирского униве-та. Ун-та с одним из самых сильных факуль-в статистики.

Идите там в раздел форумы --- дальше теория вероятностей и мат.стат.