Парадокс Роббінса показує, що навіть тоді, коли треба прийняти рішення про прийом чи відмову від продукції, яка надходить з різних незалежно працюючих фабрик, загальна кількість помилкових рішень буде в середньому меншою, якщо ми не будемо приймати рішення незалежно одне від другого.
У 1961 р. Джеймс і Стейн запропонували таку просту оцінку для математичного сподівання багатовимірного нормального розподілу
де .Тоді
, але . Отже, оцінка справді не є допустимою. Оцінка переводить вектор ближче до початку координат, а оскільки початок координат можна вибрати довільно, то оцінкатакож краща, ніж
, при будь якому виборі . Таким чином, оцінка Джеймса - Стейна залежить від вибору початку координат , а в той же час від не залежить. (Можна показати, що оцінканавіть дещо краща, ніж
)На думку Карла Пірсона, у математиці немає іншого такого розділу, в якому настільки легко можна було б робити помилки, як у теорії ймовірностей та математичній статистиці. Математична статистика багата на парадокси. Важливо розрізняти парадокси і софізми. Парадокси - це суперечні інтуїції або здоровому глузду, але вірні результати. Софізми - помилкові результати, одержані за допомогою міркувань, які формально здаються вірними. Розглянемо деякі парадокси математичної статистики.
Парадокс оцінок математичного сподівання.
Парадокс.
Нехай
- реалізація вибірки з розподілу . Розподіл залежить від параметра , де - математичне сподівання розподілу . Значення параметра в розподілі невідомо, і його необхідно оцінити за реалізацією вибірки .Якщо за розподіл
обрати нормальний розподіл , то оцінканезміщена, спроможна, ефективна оцінка для параметра
. Для розподілу ж , відмінного від нормального, оцінка не є незміщеною оцінкою з найменшою дисперсією.У цьому і полягає парадокс оцінки математичного сподівання.
Пояснимо парадокс.
Розглянемо сім’ю розподілів
на , які залежать від параметра і задаються щільністю .Кількість інформації за Фішером має вигляд:
(1)За умов, що щільність
ми вважаємо, що підінтегральний вираз дорівнює нулю. Отже формула (1) перепишеться у вигляді: (2)В 1965 роціКаган, Ліннік та Раосформулювали теорему, згідно з якою у класі щільностей
, зі скінченою дисперсією , які задовольняють умови 1. - неперервно - диференційовна функція.2. при , нерівність Крамера-Раообертається на рівність на гауссівському розподілі.
Доведення. Будемо вважати, що середне значення розподілу
дорівнює нулеві. Позначимо через множину точок , для яких щільність додатна.Інтеграл по множині
від х помножене на похідну від щільності дорівнює - 1: .Користуючись нерівністю Коші - Буняковського для інтегралів здобуваємо нерівність
, (3)при цьому знак рівності досягається тоді й тільки тоді, коли справедлива формула
(4)Розв’язуючи диференціальне рівняння (4), знайдемо щільність
. (5)Для знаходження сталих
скористаємося тим, що 1) - інтеграл від щільності дорівнює 1,2) - середнє дорівнює 0 та 3) - дисперсія скінчена й дорівнює .Отже, маємо щільність нормального розподілу з параметрами
: .Теорема доведена.
Отже парадокс показує, що за виключенням нормального розподілу, середнє арифметичне вибірки не є незміщеною оцінкою з найменшою дисперсією для математичного сподівання розподілу
.Парадокс оцінок дисперсії.
Історія парадоксу.
Найважливішою характеристикою випадкових величин і їх розподілів разом з математичним сподіванням є дисперсія.
Нехай
вибірка з розподілу . Якщо дисперсія розподілу скінченна, то при відомому математичному сподіванні розподілу вибіркова дисперсія дорівнює виразу