Математическая статистика (стр. 1 из 3)

Пространством элементарных событий называется множество исходов некоторого эксперимента.

Элементарным событием называется любой элемент пространства элементарных событий.

Событием называется любое подмножество пространства элементарных событий.

Генеральной совокупностью называется достаточно большое, быть может, бесконечное подмножество элементарных событий.

Случайной величиной называют функцию от элементарного события.

Экспериментом называется функция, принимающая значение на пространстве элементарных событий.

Статистическая моделью называется совокупность законов, которым подчиняется процедура эксперимента.

Случайной выборкой¹ или просто выборкой¹ объема n называется набор некоторого числа элементов генеральной совокупности, наблюденных при серии из n одинаковых экспериментов

Выборкой² объема n называется набор 1,…,n случайных величин, определенных на натуральных числах 1,…,n, k-я с.в. принимает значение исхода k_i-го эксперимента на числе i, при условии, что все эксперименты одинаковы.

Статистикой называется любая измеримая функция от выборки.

Функцией правдоподобия называется плотность распределения выборки², как n-мерной случайной величины.

Вариационный ряд, распределение порядковых статистик. Эмпирические Квантили ГММЕ 398.

к-й порядковой статистикой выборки х₁,…,х_n называется такая случайная величина х^(k), что для каждого набора значений выборки х₁,…,х_n х^(k) равна такому х_i, для которого найдется ровно i-1 элементов выборки, которые меньше х_i.

Если х₁,…,х_{n –} независимые, одинаково распределенные случайные величины, что распределение к-й порядковой статистики задается следующей формулой:

, где B(a,b) – плотность бета распределения.

Вариационным рядом называется последовательность порядковых статистик x⁽¹⁾,…,x⁽ⁿ⁾.

Выборочным квантилем порядка р называется значение х_([np]+1).

Квантильюz_p для с.в. х с функцией распределения F(x) называется любой корень уравнения F(z_p)=p.

Эмпирическая функция распределения, ее св-ва, как функции распределения и как случайного элемента (распределения и числовые характеристики) СКТ 191.

Эмпирическим распределением называется распределение, которое каждому элементу выборки¹х₁,…,х_n ставит в соответствие вероятность1/n.

Эмпирическим распределением

Á_n для выборки х₁,…,х_nназывается функция, по определению равная , где равно 1, если х_k принадлежит В, и нулю иначе.

Эмпирической функцией распределения называется функция F_n(x)=Á(-¥,x).

Математическое ожиданиеэмпирической функции распределенияM(x) равно среднему арифметическому значений х₁,…,х_n.

Дисперсияэмпирической функции распределения

.

Выборочным моментом порядка k называется значение

.

Сходимость эмпирической функции распределения. Теорема Гливенко – Кантелли (БМС 22).

Теорема. Для эмпирического распределенияÁ_n(x) и распределения генеральной совокупности Á (x) при n®¥

.

Теорема Гливенко – Кантелли. Для эмпирической функцией распределения F_n(x) и распределения генеральной совокупности F(x) при n®¥

.

Теорема Колмогорова. Доказательство независимости статистики Колмогорова от вида непрерывной функции распределения – СКТ 209 ГММЕ 173.

Статистикой Колмогорова для непрерывной функции распределения генеральной совокупности F(x) и – эмпирической функция распределения F_n(x) , построенной по выборке х₁,…,х_n, называется функция

.

Теорема. Если F(x) непрерывна, тораспределения статистики Колмогорова D_nне зависит от F(x).

Условные математические ожидания и условные распределения. Св-ва условных мат. ожиданий. Аналоги формул полной вероятности и формулы Байеса для мат. ожиданийГММЕ 173 ШВ 91.

Условным законом распределения д.с.в. h при заданном значении д.с.в. x=х_k называется набор условных вероятностей

l=1,…,m.

Условным математическим ожиданием д.с.в. h при заданном значении д.с.в. x=х_kназывается сумма

. Имеет место равенство M[M(x½h)] = Mh. М (Р (h = y_l| x=x_k)) = P(h = y_l).

Достаточные статистики. Теорема Неймана-Фишера (критерий достаточности) СКТ 221.

Достаточной называется такая статистика t(x), что для случайной величины x с распределением p(x,q) условное распределение P(x | t(x) = t₀) не зависит от параметра q(то есть через нее можно определить значение параметра q).

Теорема. Статистика t(x)с распределением p(x,q)=g(t(x);q)h(x) является достаточной.

Статистические оценки. Св-ва оценок: состоятельность, несмещенность, эффективность. Задача оптимального статистического оценивания СКТ 215.

Оценкой для независимой выборки (x₁,…,x_n) называют статистику

, предназначенную для использования вместо параметра q, в качестве его приближения, однозначно определяемому исходным распределением F из семейства распределений F_q (x).

Несмещенной называется такая оценка

, что ее мат. ожидание равно q.

Состоятельной называется последовательность оценок

, сходящаяся по вероятности к q.

Эффективнойназывается такая оценка

что ее дисперсия минимальна среди последовательности оценок .

Улучшение оценок с помощью достаточных статистик. Теорема Колмогорова Блекуэла Рао ВДВ СКТ 222.

Теорема Колмогорова Блекуэла Рао. Пусть t(х) - достаточная статистика семейства распределений p(x,q) , а

- несмещенная оценка параметра qс конечной дисперсией для некоторой выборки (x₁,…,x_n) . Тогда условное мат. ожидание при фиксированном t(х) будет несмещенной оценкой qс дисперсией не превосходящей дисперсию .

Полные достаточные статистики и их использование для нахождения несмещенных оценок с минимальной дисперсией СКТ 222 БМС 142.

Полным семейством распределений G_q, зависящих от к-мерного параметра q называется такое семейство G_q, что из равенства нулю

для любой измеримой функции y(s), следует , что y(s)=0.

Полной называется статистика с полным семейством распределений G_q, индуцированным распределением генеральной совокупности G.

Теорема. Для полной достаточной статистики S и оценки q, оценка q_s=M(q|S) является единственной эффективной оценкой.

Неравенство Крамера-Рао-Фреше. Эффективные оценки в регулярном случае. Информация Фишера и ее св-ва СКТ 224.

Информацией Фишера для плотности p(x, q) называют математическое ожидание

.

Неравенство Рао-Крамера. Для семейства плотностей p(x, q) и оценки

с математическим ожиданием g(q) таких, что

и

, имеет место неравенство

.

Эффективностью оценки

с математическим ожиданием g(q)называется отношение

.

Эффективной называется оценка, эффективность которой равна 1.

Метод моментов св-ва оценок СКТ 228.

Методом моментов называют способ нахождения оценок_к к=1,…,r, получаемых как решение системы m_k0=m_k(q₁,…,qr), где

, а m_k - моменты порядка к для независимой выборки с плотностью p(x,q₁,…,q_n).