Это старая версия (1.69) МетодМаксимальногоПравдоподобия.

Содержание

Метод максимального правдоподобия

Допустим, выборка bold x = (x sub 1 , x sub 2 , ldots , x sub n ) состоит из n независимых случайных величин.

Мы предполагаем, что bold x имеет нормальное распределение. Нормальных распределений бесконечно много. Каждое из них задаётся двумя параметрами: математическим ожиданием mu и дисперсией sigma sup size -2 2.

Наша задача — найти такое распределение из семейства нормальных, которое бы наилучшим образом описывало нашу выборку. Иными словами, нам нужно найти такие mu hat и {sigma sup size -2 2} hat, чтобы они задавали самое близкое к имеющейся выборке нормальное распределение.

Для этого используем функцию правдоподобия Фишера: size +4 Pi from i=1 to n p(x sub i ), где p(x) — функция плотности распределения вероятности (в нашем примере — функция плотности вероятности нормального распределения).

Для удобства часто (почти всегда) целесообразоно провести монотонное преобразование функции правдоподобия, прологарифмировав её, чтобы перейти от умножения к сложению. Это корректно с математической т. з., т. к. мы предполагаем независимость величин в выборке. L = 
ln ( size +4 Pi from i=1 to n p(x sub i )) = 
size +4 sum from i=1 to n ln p(x sub i ).

Функцию L будем называть логарифмической функцией правдоподобия.

В нашем примере p(x) =  size -2 1 over size -2 {sigma sqrt {2 pi}} e sup { size -1 - ~ size +1 {(x - mu ) sup 2} over size +1 {2 sigma sup 2}} , поэтому L = size +4 sum from i=1 to n ln left ( size -2 1 over size -2 {sigma sqrt {2 pi}} e sup { size -1 - ~ size +1 {(x sub i - mu ) sup 2} over size +1 {2 sigma sup 2}} right ).

Преобразуем функцию L: L = 
size +4 sum from i=1 to n 
ln left ( 
size -2 1 over size -2 {sigma sqrt {2 pi}} 
e sup { size -1 - ~ size +1 {(x sub i - mu ) sup 2} over size +1 {2 sigma sup 2}} 
right ) = 
size +4 sum from i=1 to n 
left (
ln ( size -2 1 over size -2 {sigma sqrt {2 pi}})
+
ln (e sup { size -1 - ~ size +1 {(x sub i - mu ) sup 2} over size +1 {2 sigma sup 2}})
right )


КатегорияПрикладнаяМатематика