где
Доказательство.
Рассмотрим независимые случайные величины:
Все эти величины прерывны и имеют один и тот же закон распределения, выражаемый рядом вида:
0 | 1 |
q | p |
т.к. событие A наступает с вероятностью p и не наступает с вероятностьюq
Вычислим математическое ожидание каждой из величин
Т.к.
Отсюда и следует справедливость доказываемого неравенства:
где
Что и требовалось доказать.
3.4 Закон больших чисел для зависимых случайных величин
А.А. Марков под этим законом понимал закон, «в силу которого с вероятностью, сколь угодно близкой к достоверности, можно утверждать, что среднее арифметическое из нескольких величин, при достаточно большом числе этих величин, будет произвольно мало отличаться от средней арифметической их математических ожиданий». При таком понимании закона больших чисел и теорема Бернулли и теорема Пуассона и теорема Чебышева будут его различными формами. Такое понимание теперь общепринято.
Чебышев распространил закон больших чисел на независимые случайные величины с равномерно ограниченными дисперсиями:
Марков расширил условия применимости этого закона. В работе «Распространение закона больших чисел на величины, зависящие друг от друга» Марков привёл следующую теорему [1,6].
Теорема.
Если последовательность взаимно независимых случайных величин
Доказательство.
Рассмотрим величину
Очевидно, что
Переходя к пределу получаем:
Что и требовалось доказать.
В этой работе Марков доказывает, что закон больших чисел применим к
Марков делает замечание: «к тому же заключению о применимости закона больших чисел не трудно прийти и в случае, когда математическое ожидание
Марков рассматривает последовательность случайных величин, связанных в цепь. Такие цепи зависимых величин получили название марковских цепей. В этой работе Марков рассматривает простую цепь (простая цепь маркова – последовательность случайных величин, каждая из которых может принимать любое число исходов, причём вероятности исходов при
В конце своей работы Марков делает вывод, что независимость величин не составляет необходимого условия для существования закона больших чисел.
В настоящее время используется условие, аналогичное условию Маркова, но уже не только достаточное, но и необходимое для применимости закона больших чисел к последовательности произвольных случайных величин [4].
Теорема.
Для того чтобы для последовательности
Необходимо и достаточно, чтобы при
Доказательство.
Предположим сначала, что (2) выполнено, и покажем, что в этом случае выполнено также (1). Обозначим через
Легко проверить следующую цепочку соотношений:
Это неравенство доказывает достаточность условия теоремы.
Покажем теперь, что условие (2) необходимо. Легко видеть, что
Таким образом,
Выбирая сначала
Что и требовалось доказать.
3.5 Усиление закона больших чисел. Появление необходимого и достаточного условий применимости закона больших чисел
В 1923 г. А.Я. Хинчин установил закон повторного логарифма, который является своеобразным обобщением и усилением закона больших чисел[1]. Рассмотрим полученные им результаты.
Согласно теореме Бернулли, при
В 1909 г. Борель для