При виконанні досить загальних умов усі три оцінки:
2,s2 і s забеспечені.У приведеному прикладі оцінки методу моментів X і
2 є відповідно ефективної й асимптотично ефективної. Однак подібні приклади швидке виключення: набагато частіше оцінки методу моментів із погляду ефективності не є найкращими з можливих навіть при великих п. Р. Фишер показав, що асимптотична ефективність цих оцінок часто значно менше одиниці. Асимптотично ефективні оцінки можуть бути отримані методом максимальної правдоподібності.3.1.2 Метод максимальної правдоподібності
В основі методу максимальної правдоподібності лежить поняття функції правдоподібності. Нехай Х= (Х
, Х2,..., Хп) — випадкова, а х = (х ,х ,..., хп) — конкретна вибірки з генеральної сукупності X. Нагадаємо, випадкової називають вибірку, що задовольняє наступним умовам:випадкові розміри Х
, Х2,,.., Хпнезалежні, тобто (3.12) (3.13)розподіл кожною з розмірів Х збігається з розподілом розміру X, тобто при і= 1, 2,..., n.
(3.14)Функція правдоподібності — це функція L (х, ), значення якої в точці х визначається співвідношенням:
З визначення випливає: чим ймовірніше при фіксованому
набір х, тим більше значення функції правдоподібності L (x, ), звідси і її назва.Отже,
(3.15)Відповідно до методу максимальної правдоподібності оцінка максимальної правдоподібності
(п) = ( п), ,..., ) параметра = ( , ,..., ), при заданому наборі х визначається з умови: (3.16)де {
} - область припустимих значень для .Природність такого підходу до визначення оцінки
випливає зі змісту функції L: при фіксованому функція L (х, 0) — міра правдоподібності набору х; тому, змінюючи , можна простежити, при яких його значеннях набір є більш правдоподібним, а при яких - менше, і вибрати таке значення , при якому наявний набір х буде найбільш правдоподібним.У ряді випадків
зручніше визначати з умови:In £(х,
) = In L(x, ) (3.17)ідентичного умові (3.16): якщо замість функції L узяти In L, крапка максимуму не зміниться. Функцію In L (х, 0) називають логарифмічною функцією правдоподібності.
Відповідно до формули (3.17), для знаходження
(П)випливає: знайти вирішення системи рівнянь максимальної правдоподібності (3.18)при цьому вирішенням вважається лише такий набір
* = ( *, *,..., *), що задовольняє (3.18), у якому кожне * дійсно залежить від х;серед вирішень, що лежать усередині області {
}, виділити крапки максимуму;якщо система (3.18) не визначена, не розв'язна або якщо серед її вирішень немає крапки максимуму усередині {
}, то крапку максимуму варто шукати на границі області { }.Приклад 3.2.1 Знайдемо методом максимальної правдоподібності оцінки параметрів а і b = σ2 нормального розподілу.
Відповідно до формули (3.15), функція правдоподібності
логарифмічна функція правдоподібності
Приватні похідні:
Перевіримо достатні умови максимуму функції In L у точці (а*, b*).
Знайдемо:
тому що ∆ >0, А<0, то крапка (а* = ,b*=
] є крапкою максимуму функції In L. Тому оцінки максимальної правдоподібності =х, = . Оцінки збіглися з оцінками методу моментів.Приклад 3.2.2 Знайдемо методом максимальної правдоподібності оцінки параметрів а і bрівномірного на відрізку [а,b] розподіли. Відповідно до формули (3.15), функція правдоподібності
При першій умові система (3.18) не розв'язна, при другому - не визначена. Оцінки
і варто шукати на границі області припустимих значень для а і b:де
а . Тоді умова (3.16) прийме вид:Тому що функція L(a,b) =1/(b - а)" убуває при зростанні bи убуванні а, то її максимум на області {
} досягається в точці .Приклад 3.2.4 Випадковий розмір Х- число успіхів в одиничному випробуванні: Р(Х = х) = рх(1 – р) 1-х, х = 0,1; р - імовірність успіху в одиничному випробуванні. Знайдемо оцінку максимальної правдоподібності
розташовуючи вибіркою х1, х2..., хп, де хі - число успіхів у і-м випробуванні.