Методы нахождения оценок

Метод моментов и метод максимального правдоподобия являются основными методами нахождения оценок. Метод моментов предложен К. Пирсоном. Согласно методу моментов, определённое количество выборочных моментов {начальных $\nu _k^\ast $ или центральных $M_k^\ast $ или тех и других} приравнивается к соответствующим теоретическим моментам распределения $(\nu _k$ или $M_k)$ случайной величины $X$.

Оценки метода моментов обычно состоятельны, однако по эффективности не являются лучшими.

Основной метод получения оценок параметров Г.С. по данным выборки является метод максимального правдоподобия, предложенный Р. Фишером.

Основу метода составляет функция правдоподобия, выражающая плотность вероятности {вероятность} совместного появления результатов выборки $x_1 ,x_2 ,\ldots ,x_n $

$ L( {x_1 ,x_2 ,\ldots ,x_n ,\theta } )=\varphi ( {x_1 ,\theta } )\cdot \varphi ( {x_2 ,\theta } )\ldots \varphi ( {x_n ,\theta } ). $

Согласно методу М.П., в качестве оценки неизвестного параметра $\theta $ принимается такое значение $\theta _n $, которое максимизирует функцию $L$. Функция правдоподобия при каждом фиксированном значении параметра $\theta $ является мерой правдоподобности получения наблюдений $x_1 ,x_2 ,\ldots ,x_n $. И оценка $\theta _n $ такова, что имеющиеся наблюдения $x_1 ,x_2 ,\ldots ,x_n $ являются наиболее правдоподобными.

Для отыскания оценки параметра $\theta $ {одного или нескольких} надо решить уравнение {или систему уравнений} правдоподобия

$\frac{d\ln L}{d\theta }=0$ или $\frac{1}{L}\cdot \frac{dL}{d\theta }=0$

и отобразить то решение, которое обращает $ln L$ в максимум.

Оценками метода максимального правдоподобия математического ожидания $a$ и дисперсии $D^{2}$ нормально распределенной случайной величины являются, соответственно выборочная средняя $\overline x $ и выборочная дисперсия $D_b^2 $.

Важность метода максимального правдоподобия связана с его оптимальными свойствами. Так если для параметра $\theta $ существует эффективная оценка $\tilde {\theta }_n^э $, то оценка максимального правдоподобия единственная и равна $\tilde {\theta }_n^э $. Кроме того, при достаточно общих условиях оценки максимального правдоподобия являются состоятельными, асимптотически эффективными и имеют асимптотически нормальное распределение.

Основной недостаток метода максимального правдоподобия - трудность вычисления оценок, связанных с решением уравнений правдоподобия, чаще всего не линейных. Кроме того, для построения оценок максимального правдоподобия необходимо точное знание типа анализируемого закона распределения $\varphi (х,\theta )$, что во многих случаях практически нереально.