і є незміщеною оцінкою дисперсії
.Ситуація змінюється, коли математичне сподівання розподілу
невідоме і в якості оцінки математичного сподівання розглядається .Тоді вибіркова дисперсія
вже не є незміщеною оцінкою.
Оцінка
є асимптотично незміщеною оцінкою для . Оскільки незміщеність - одна з необхідних властивостей, яку повинна мати добра оцінка, змінимо оцінку так, щоб отримати незміщену оцінку для . .Оцінка
незміщена оцінка для .Проте парадокс оцінок дисперсії показує, що не завжди треба обмежуватися розглядом лише незміщених оцінок. Інколи оцінка з малим зсувом і малою мірою розкиду значень оцінки краща незміщеної оцінки з великою дисперсією.
Парадокс.
Нехай
- вибірка з нормального розподілу з параметрами . Оцінканезміщена оцінка для
, а оцінкадля
така, що міра розкиду оцінки відносно мінімальна. Вимога незміщеності і мінімуму міри розкиду приводять до різних оцінок. Треба дізнатися якій з оцінок віддати перевагу.Пояснимо парадокс. Розглянемо клас оцінок
.Математичне сподівання оцінок
дорівнює .Тобто в класі оцінок
існує єдина незміщена оцінка , яка відповідає і ця оцінка є : . (1)Міра розсіювання оцінок
відносно обчислюється за формулою: . (2)Позначимо через
функцію параметра . (3)Знайдемо
, при якому досягає найменшого значення. Це значення . (4)При цьому
має вигляд: . (5)Одержуємо нерівність (6). Міра розсіювання оцінки
відносно менша ніж міра розсіювання оцінки відносно . . (6)Таким чином, на підставі вимоги мінімуму міри розсіювання оцінки зміщена оцінка
,зміщення якої
(7)мале при чималому об'ємі вибірки
, краще оцінює дисперсію , чим незміщена оцінка .Цей парадокс показує, що не може бути єдиного критерію, за яким необхідно порівнювати всі оцінки, як не існує єдиної оцінки даного параметра
, яка прийнятна для всіх випадків.Зауважимо.
Вибіркова дисперсія
при відомому математичному сподіванні - ефективна оцінка для
. Оцінка не є ефективною оцінкою для . Ефективної оцінки для (при невідомому математичному сподіванні) не існує, тобто ні для якої незміщеної оцінки параметра нерівність Крамера - Рао не обертається в рівність.Парадокс Байєса.
Історія парадоксу.
Теорема Томас Байєс, доведена близько 1750 р. і опублікована лише після смерті автора, стала джерелом суперечок в статистиці. Вони не припинилися й досі. Сформулюємо теорему Байєса. Нехай події
, утворюють повну групу подій. Тоді для будь-якої події умовна ймовірність події відносно рахується за формулою (1)Формула Байєса дозволяє за апріорними ймовірностями
подій знайти апостеріорні ймовірності подій . В більшості її застосувань апріорні імовірності невідомі. В цьому випадку вважають, що, оскільки відсутня попередня інформація про події , то усі ймовірності рівні, але такий підхід, взагалі кажучи, неприйнятний.Байєс використовував свою теорему у випадках, коли апріорні імовірності
були випадковими величинами, зокрема, рівномірно розподіленими на .Нехай
- випадкова величина рівномірно розподілена на . .Вважаємо, що щільність апріорна.
Позначимо через
- подію, яка полягає у тому, що "в випробовуваннях Бернуллі подія відбулась разів", при цьому ймовірність події дорівнює .