Версия для печати темы
Нажмите сюда для просмотра этой темы в оригинальном формате
Форум программистов > Алгоритмы > Как оценить погрешность оценки на вероятность?


Автор: Andrey1 10.4.2006, 11:40
В статистике учат, что частотная вероятность равна:
P{k=k1}=N(k=k1)/N(total)

Стоит задача аппроксимировать функ. распр. вероятностей, исходя из имеющихся данных, некоторой функцией.

Идея состоит в том, чтобы использовать метод наименьших квадратов:
т.е. найти
min( Sum( ( Pth(A;..) - P{...}/W(...) )^2 ) )
в пространстве параметров, где Pth(A;..) - функция распр. вероятностей, зав. от параметров, P{...} - частотные вероятности.
Но тогда нужно знать веса W(...) - то есть оценки погр. на вер.

Итак, как оценить погрешность оценки на вероятность?

Кто знает другие алгоритмы на эту тему?

Автор: nostromo 10.4.2006, 16:36
Посмотрите формулу хи-квадрат распределения и, соответственно, теорему Фишера.

Если Вы станете минимизировать величину хи в квадрате
(оценка правдоподопия избранной гипотезы)
по параметрам распределения, то получите в точности метод
наименьших квадратов.

Полученный в результате минимизации набор параметров будет
обладать максимальным правдоподобием, а это и означает наилучшую аппроксимацию функции распределения.
Или я что-то не так понял?

Автор: Andrey1 11.4.2006, 13:08
Проблема в том, что для МНК нужно знать веса W... Если их правильно оценить, тогда можно надеятся на то, что на выходе будет правильная оценка для среднего и погрешность на найденные параметры.

Пока все что я придумал - вычислять частотные вероятности из различных выборок (в которых сохраняется нужное распределение) и их уже оценивать как случ. величины... Так вроде все честно, с точность до какого-нибудь коэф. типа Sqrt[2] в нужном месте smile))...

Автор: nostromo 11.4.2006, 14:10
Фраза "правильно оценить веса" -- некорректна. Задав каким-либо образом весовую функцию Вы тем самым и зададите некоторый критерий оптимальности аппроксимации.
Чем одна весовая функция может быть лучше другой?

Как правило, весовые функции задаются исходя из какой либо дополнительной информации об эмпирических данных с тем, чтобы подчеркнуть важность некоторых областей перед другими.

Посмотрите теорию http://www.nsu.ru/mmf/tvims/chernova/ms/lec/ms.html.

Автор: esperant0 11.4.2006, 22:40
Цитата(nostromo @ 10.4.2006, 16:36)
  Полученный в результате минимизации набор параметров будет
обладать максимальным правдоподобием, а это и означает наилучшую аппроксимацию функции распределения.

странное предложение и неверное

Автор: Andrey1 12.4.2006, 18:02
Цитата(nostromo @ 11.4.2006, 14:10 Найти цитируемый пост)
Фраза "правильно оценить веса" -- некорректна.

Обычно вес=1/погрешность
В этом смысле фраза вполне корректна.
А вообще проблема корректности и не корректности меня мало волнует. Нужен ответ и правильный.

Автор: esperant0 14.4.2006, 17:00
Цитата(Andrey1 @ 12.4.2006, 18:02)
Цитата(nostromo @  11.4.2006,  14:10 Найти цитируемый пост)
Фраза "правильно оценить веса" -- некорректна.

Обычно вес=1/погрешность
В этом смысле фраза вполне корректна.
А вообще проблема корректности и не корректности меня мало волнует. Нужен ответ и правильный.

на некоректный вопрос

правильный ответ - 8.


Автор: Andrey1 18.4.2006, 11:34
А не подскажите, где есть хороший форум, где тусуются професиональные статистики?

Цитата(esperant0 @  14.4.2006,  17:00 Найти цитируемый пост)
на некоректный вопрос

Если этому не учат в Университете и школе, это не означает, что вопрос - не корректный. 

Автор: esperant0 18.4.2006, 15:47
подскажем

nsu.ru 

сайт новосибирского униве-та. Ун-та с одним из самых сильных факуль-в статистики.

Идите там в раздел форумы --- дальше теория вероятностей и мат.стат. 

Powered by Invision Power Board (http://www.invisionboard.com)
© Invision Power Services (http://www.invisionpower.com)