Методы нахождения оценок: теория и практическое применение

Метод моментов и метод максимального правдоподобия являются основными методами нахождения оценок. Метод моментов предложен К. Пирсоном. Согласно методу моментов, определённое количество выборочных моментов { начальных $\nu \_k^\ast$ или центральных $M\_k^\ast$ или тех и других } приравнивается к соответствующим теоретическим моментам распределения $(\nu \_k$ или $M\_k)$ случайной величины $X$.

Оценки метода моментов обычно состоятельны, однако по эффективности не являются лучшими.

Основной метод получения оценок параметров ** Г.С.по данным выборки является метод максимального правдоподобия, предложенный *** Р. Фишером*.

Основу метода составляет функция правдоподобия, выражающая плотность вероятности { вероятность } совместного появления результатов выборки $x\_1 ,x\_2 ,\ldots ,x\_n$ $L( { x\_1 ,x\_2 ,\ldots ,x\_n ,\theta } )=\varphi ( { x\_1 ,\theta } )\cdot \varphi ( { x\_2 ,\theta } )\ldots \varphi ( { x\_n ,\theta } ).$ Согласно методу ** М.П.**, в качестве оценки неизвестного параметра $\theta$ принимается такое значение $\theta \_n$, которое максимизирует функцию $L$. Функция правдоподобия при каждом фиксированном значении параметра $\theta$ является мерой правдоподобности получения наблюдений $x\_1 ,x\_2 ,\ldots ,x\_n$. И оценка $\theta \_n$ такова, что имеющиеся наблюдения $x\_1 ,x\_2 ,\ldots ,x\_n$ являются наиболее правдоподобными.

Для отыскания оценки параметра $\theta$ { одного или нескольких } надо решить уравнение { или систему уравнений } правдоподобия

$\frac { d\ln L } { d\theta } =0$ или $\frac { 1 } { L } \cdot \frac { dL } { d\theta } =0$

и отобразить то решение, которое обращает $ln L$ в максимум.

Оценкамиметода максимального правдоподобия математического ожидания $a$ и дисперсии $D^ { 2 }$ нормально распределенной случайной величины являются, соответственно выборочная средняя $\overline x$ и выборочная дисперсия $D\_b^2$.

Важность метода максимального правдоподобия связана с его оптимальными свойствами. Так если для параметра $\theta$ существует эффективная оценка $\tilde { \theta } \_n^э$, то оценка максимального правдоподобия единственная и равна $\tilde { \theta } \_n^э$. Кроме того, при достаточно общих условиях оценки максимального правдоподобия являются состоятельными, асимптотически эффективными и имеют асимптотически нормальное распределение.

Основной недостаток метода максимального правдоподобия - трудность вычисления оценок, связанных с решением уравнений правдоподобия, чаще всего не линейных. Кроме того, для построения оценок максимального правдоподобия необходимо точное знание типа анализируемого закона распределения $\varphi (х,\theta )$, что во многих случаях практически нереально.