Смекни!
smekni.com

Теория вероятности и мат статистика

Киевский политехнический институт

КафедраКСОИУ


Конспектлекций


покурсу:


Теориявероятностии математическаястатистика”


Преподаватель:СтудентII курса

ФИВТ,гр. ИС-41

проф.Павлов А. А.АндреевА. С.


Киев -1996 г.

Введение.

Теория вероятностивозникла какнаука из убеждения,что в основемассовых случайныхсобытий лежатдетерминированныезакономерности.Теория вероятностиизучает данныезакономерности.

Например: определитьоднозначнорезультатвыпадения“орла” или“решки” в результатеподбрасываниямонеты нельзя,но при многократномподбрасываниивыпадает примерноодинаковоечисло “орлов”и “решек”.

Испытаниемназываетсяреализацияопределенногокомплексаусловий, которыйможет воспроизводитьсянеограниченноечисло раз. Приэтом комплексусловий включаетв себя случайныефакторы, реализациякоторого вкаждом испытанииприводит кнеоднозначностиисхода испытания.

Например: испытание- подбрасываниемонеты.

Результатомиспытанияявляется событие.Событие бывает:

Достоверное(всегда происходитв результатеиспытания);

Невозможное(никогда непроисходит);

Случайное(может произойтиили не произойтив результатеиспытания).

Например: Приподбрасываниикубика невозможноесобытие - кубикстанет на ребро,случайноесобытие - выпадениекакой либограни.

Конкретныйрезультатиспытанияназываетсяэлементарнымсобытием.

В результатеиспытанияпроисходяттолько элементарныесобытия.

Совокупностьвсех возможных,различных,конкретныхисходов испытанийназываетсяпространствомэлементарныхсобытий.

Например: Испытание- подбрасываниешестигранногокубика. Элементарноесобытие - выпадениеграни с “1” или“2”.

Совокупностьэлементарныхсобытий этопространствоэлементарныхсобытий.

Сложным событиемназываетсяпроизвольноеподмножествопространстваэлементарныхсобытий.

Сложное событиев результатеиспытаниянаступает тогдаи только тогда,когда в результатеиспытанийпроизошлоэлементарноесобытие, принадлежащеесложному.

Таким образом,если в результатеиспытания можетпроизойтитолько одноэлементарноесобытие, то врезультатеиспытанияпроисходятвсе сложныесобытия, в составкоторых входятэти элементарные.

Например: испытание- подбрасываниекубика. Элементарноесобытие - выпадениеграни с номером“1”. Сложноесобытие - выпадениенечетной грани.

Введем следующиеобозначения:

А - событие;

w - элементыпространстваW;

W - пространствоэлементарныхсобытий;

U - пространствоэлементарныхсобытий какдостоверноесобытие;

V - невозможноесобытие.

Иногда дляудобства элементарныесобытия будемобозначатьE­i, Qi.


Операциинад событиями.

1. Событие C называетсясуммой A+B, еслионо состоитиз всех элементарныхсобытий, входящихкак в A, так и вB. При этом еслиэлементарноесобытие входити в A, и в B, то в C оновходит одинраз. В результатеиспытаниясобытие C происходиттогда, когдапроизошлособытие, котороевходит или вA или в B. Суммапроизвольногоколичествасобытий состоитиз всех элементарныхсобытий, которыевходят в одноиз Ai, i=1, ..., m.




2. Событие C произведениемA и B, если оносостоит из всехэлементарныхсобытий, входящихи в A, и в B. Произведениемпроизвольногочисла событий называетсясобытие состоящееиз элементарныхсобытий, входящихво все Ai, i=1, ..., m.




3. Разностьюсобытий A-B называетсясобытие C, состоящееиз всех элементарныхсобытий, входящихв A, но не входящихв B.




4. Событие называетсяпротивоположнымсобытию A, еслионо удовлетворяетдвум свойствам.

Формулы деМоргана:

и



5. События A и Bназываютсянесовместными,если они никогдане могут произойтив результатеодного испытания.

События A и Bназываютсянесовместными,если они неимеют общихэлементарныхсобытий.

C=AЧB=V

Тут V - пустоемножество.

Частостьнаступлениясобытия.

Пусть пространствоэлементарныхсобытий конечнои состоит изm элементарныхсобытий. В этомслучае в качествевозможныхисходов испытанийрассматривают2­­m событий- множествовсех подмножествпространстваэлементарныхсобытий Wи невозможноесобытие V.

Пример:

W=(w1,w2, w3)

A1=V

A2=(1)

A3=(2)

A4=(3)

A5=(1,2)

A6=(2,3)

A7=(1,3)

A8=(w1, w2,w3)

Обозначимсистему этихсобытий черезF. Берем произвольноесобытие AОF.Проводим сериюиспытаний вколичествеn. n - это количествоиспытаний, вкаждом из которыхпроизошлособытие A.

Частостьюнаступлениясобытия A в nиспытанияхназываетсячисло


Свойствачастости.

  1. Частостьдостоверногособытия равна1. n(U)=1.

  2. Частость суммыпопарно несовместныхсобытий равнасумме частостей.

Рассмотримсистему Ai, i=1,..., k; события попарнонесовместны,т.е.

Событие

Пусть в результатенекоторогоиспытанияпроизошлособытие A. Поопределениюсумы это означает,что в этом испытаниипроизошлонекотороесобытие Ai. Таккак все событияпопарно несовместны,то это означает,что никакоедругое событиеAj (ij) вэтом испытаниипроизойти неможет. Следовательно:

nA=nA1+nA2+...+nAk

Теория вероятностииспользуетсяпри описаниитолько такихиспытаний, длякоторых выполняетсяследующеепредположение:Для любогособытия A частостьнаступленияэтого событияв любой бесконечнойсерии испытанийимеет один итот же предел,который называетсявероятностьюнаступлениясобытия A.

Следовательно,если рассматриваетсявероятностьнаступленияпроизвольногособытия, то мыпонимаем эточисло следующимобразом: эточастость наступлениясобытия в бесконечной (достаточнодлинной) сериииспытаний.

К сожалению,попытка определитьвероятностькак пределчастости, причисле испытаний,стремящихсяк бесконечности,закончиласьнеудачно. Хотяамериканскийученый Мизессоздал теориювероятности,базирующуюсяна этом определении,но ее не призналииз-за большогоколичествавнутреннихлогическихнесоответствий.

Теория вероятностикак наука былапостроена нааксиоматикеКолмогорова.

Аксиоматикатеории вероятности.

Построениевероятностногопространства.

Последовательностроим вероятностноепространство.

Этап 1:

Имеется испытание.В результатепроведенияиспытания можетнаблюдатьсяодно событиеиз серии событийe. Все событияиз системы eназываютсянаблюдаемыми.Введем предположение,что если событияA М e,B М eнаблюдаемы,то наблюдаемыи события

.

Система событийF называетсяполем событийили алгебройсобытий, еслидля двух произвольныхсобытий A, B МF выполняется:

  1. Дополнения

  2. (A+B) О F, (AЧB)О F

  3. все конечныесуммы элементовиз алгебрыпринадлежаталгебре

  4. все конечныепроизведенияэлементов изалгебры принадлежаталгебре

  5. все дополненияконечных сумми произведенийпринадлежаталгебре.

Таким образом,систему eмы расширяемдо алгебры илиполя F путемвключения всехконечных сумм,произведений,и их дополнений.Т.е. считаем,что в результатепроведенияиспытаниянаблюдаемаясистема являетсяполем или алгеброй.

Множество всехподмножествконечного числасобытий являетсянаблюдаемойсистемой - алгеброй,полем.

Этап 2:

Каждому событиюA О F ставимв соответствиечисло P(A), котороеназываетсявероятностьюнаступлениясобытия A. Такаяоперация задаетвероятностнуюмеру.

Вероятностнаямера - числоваяскалярнаяфункция, аргументамикоторой являютсяэлементы изсистемы алгебрыF. Введеннаявероятностнаямера удовлетворяетсистеме из трехаксиом.

  1. P(U)=1.

  2. Рассмотримконечную илибесконечнуюсистему попарнонесовместныхсобытий, каждоеиз которыхпринадлежиталгебре F.

. Если
,то
.

Алгебра событийназываетсяs - алгеброй,если эта системасобытий содержитв себе все конечныесуммы и произведенияиз алгебры F иих дополнения,а также всебесконечныесуммы и произведенияиз алгебры иих дополнения.

Пример: В пространствеR1 зададим вкачестве полясобытий всеконечные интервалывида aіx>b,ba.

Распространениеэтой алгебрына s - алгебруприводит кпонятию борелевскойалгебры, элементыкоторой называютсяборелевскимимножествами.Борелевскаяалгебра получаетсяне только расширениемполя вида aіx>b,но и расширениемполей видаa>xіb,aіxіb.

Над наблюдаемымполем событийF задаетсясчетно-аддитивнаямера - числоваяскалярнаяфункция, элементамикоторой являютсяэлементы поляF, т.е. события.Она удовлетворяетследующим тремусловиям-аксиомамтеории вероятности.

  1. . P(A) - число, принадлежащеесегменту [0, 1] иназывающеесявероятностьюнаступлениясобытия A.
  2. P(A) О [0, 1] P(U)=1.

  3. Пусть имеетсяA1, A2, A3,..., Ak -система попарнонесовместныхсобытий

Если
,то
.

Теоремао продолжениимеры.

Построим минимальнуюs - алгебру, которой принадлежитполе событийF (например,борелевскаяs - алгебра- это минимальнаяs - алгебра,которая содержитполе всехполуинтерваловненулевойдлины).

Тогда доказывается,что счетно-аддитивнаяфункция P(A) однозначнораспространяетсяна все элементыминимальнойs - алгебрыи при этом ниодна из аксиомне нарушается.

Таким образом,продленноеP(A) называетсяs - аддитивноймерой.

s - алгебрасодержитненаблюдаемыесобытия нарядус наблюдаемыми.

Но в аксиоматическойтеории вероятностисчитается, чтоможет произойтилюбое событиеиз s - алгебры.

Расширениеполя наблюдаемыхсобытий на s- алгебру связанос невозможностьюполучить основныерезультатытеории вероятностибез понятияs - алгебры.

Определениевероятностногопространства.

Вероятностнымпространствомназываетсятройка (W,s, P), где

W - пространствоэлементарныхсобытий, построенноедля данногоиспытания;

s - s-алгебра,заданная наW - системевозможныхсобытий, котораяинтересуетисследователя,в результатепроводимыхиспытаний;

P - s - аддитивнаямера, т.е. s- аддитивнаянеотрицательнаяфункция, аргументамикоторой являютсяаргументы изs - алгебрыи удовлетворяющаятрем аксиомамтеории вероятности.

  1. . P(A) - называетсявероятностьюнаступлениясобытия A.
  2. Вероятностьдостоверногособытия равна1 P(W)=1.

  3. Вероятностьсуммы несовместныхсобытий равнасумме вероятностей

,
.

k - возможнобесконечноечисло.

Следствие:

Вероятностьневозможногособытия равна0.

По определениюсуммы имеетместо неравенствоW+V=W.W и V несовместныесобытия.

По третей аксиометеории вероятностиимеем:

P(W+V)=P(Q)=P(U)=1

P(W)+P(V)=P(W)

1+P(V)=1

P(V)=1

Пусть Wсостоит изконечного числаэлементарныхсобытий W={E1,E2,..., Em} тогдапо определению

.Элементарныесобытия несовместны,тогда по третейаксиоме теориивероятностиимеет место

Пусть некотороесобытие AМWсостоит из kэлементарныхсобытий, тогда{Ei1, Ei2,..., Eik}

Доказать: ЕслиAМB, тоP(B)іP(A), B=A+C, A и Cнесовместны.

* Пусть B=A+C, A и B несовместны.Тогда по третейаксиоме теориивероятностиP(B)=P(A+C)=P(A)+P(C) т.к. 1іP(C)і0- положительноечисло, то P(B)іP(A).

Классическоеопределениевероятности.

Пусть Wсостоит изконечного числаэлементарныхсобытий и всеэлементарныесобытия равновероятны,т.е. ни одномуиз них из нихнельзя отдатьпредпочтениядо испытания,следовательно,их можно считатьравновероятными.

Тогда достоверноесобытие

m - количестворавновероятныхсобытий

,
,

Пусть произвольноесобытие

Тогда
,т.е. событие Aсостоит из kэлементарныхсобытий.

Если элементарныесобытия являютсяравноправными,а, следовательно,и равновероятными,то вероятностьнаступленияпроизвольногособытия равнадроби числителькоторой равенчислу элементарныхсобытий, входящихв данное, азнаменатель- общее числоэлементарныхсобытий.

Условнаявероятность.

P(A/B)

Условной вероятностьюнаступлениясобытия A, приусловии событияB, называетсявероятностьнаступлениясобытия A врезультатеиспытаний, еслиизвестно, чтов это испытаниипроизошлособытие B.

Вывод формулыусловной вероятностидля случаяравновероятныхэлементарныхсобытий




Действительно,в данном испытаниипроизошло одноиз t событий,входящих в B.Все элементарныесобытия равновероятны,следовательно,для данногоиспытаниявероятностьнаступленияпроизвольногоэлементарногособытия, входящегов B равна 1/t. Тогдапо классическомуопределениювероятности,в данном испытаниисобытие A произойдетс вероятностьюr/t.


В общем случаедоказать этуформулировкуневозможно,в теории вероятностиона вводитсякак правило.Существуетлишь толкованиеэтой формулы.

Обоснованиеформулы условнойвероятностив общем случае.

Пусть в nB испытанияхпроизошлособытие B, а вnA испытанияхпроизошлособытие A. Найдемусловную частостьнаступлениясобытия A приусловии, чтопроизошлособытие B. Мыможем сделатьэто для обоснованияформулы, т.к.под вероятностьюнаступлениясобытия понимаетсяпредел частостинаступлениясобытия приусловии, чтосерия испытанийдостаточнодлинная.

Условная частость

РассматриваяAB как одно событиеD имеем:

с другой стороны

Рассмотримсистему событийA1, A2,...,Ak. Покажем,что вероятностьих совместногонаступленияравна:

Доказательствопроведем помат индукции.

Формула равнадля 2 и 3 (см. ранее)

Пусть формулаверна для k-1.

Введем событиеB.

P(A1A2...Ak-1)=P(B)

P(A1A2...Ak)=P(AkB)=P(B)ЧP(AkB)

Независимыесобытия.

Два событияA и B называютсянезависимыми,если P(A/B)=P(A); P(B)=P(B/A) - доказать.

В этом случаевероятностьнаступлениядвух событийA и B равнаP(AB)=P(B)P(A/B)=P(A)P(B),

при этом покажем,что P(B/A)=P(B); P(AB)=P(B)P(A)=P(A)P(B/A)

События A1A2...Akназываютсянезависимымимежду собой,если вероятностьих совместногонаступления

;
.Два независимыхсобытия совместны.

* Если бы событиябыли несовместны,то P(A/B)=0 и P(B/A)=0, т.к. онинезависимы,то P(A/B)=P(A) и P(B/A)=P(B), т.е.утверждение“независимыесобытия несовместны”,т.к. P(A)=0 и P(B)=0, то этоутверждениеневерно.

Формуласложениявероятностей.

U - достоверноесобытие

Покажем, чтособытия

несовместны.

* Если событиянесовместны,то

;
;

т.е. событиянесовместны.

Тогда по третейаксиоме теориивероятности

Справедливоследующеетождество наосновании (1) изакона дистрибутивности

Показать самим,что все тримножествапопарно несовместны.

На основаниипервой и третейаксиомы теориивероятностиполучаем:

Имеет местотождество

,показать самим,что
несовместны

По третей аксиоме:

Для экзаменадоказать самимформулу суммыпроизвольногочисла событий

Формулаполной вероятности.

Рассмотримсистему A из kпопарно несовместныхсобытий.

B1, B2, ..., Bk

Пусть данособытие A, удовлетворяющееравенствуA=B1A+B2A+...+BkA.

Показать, чтособытия B1A,B2A, BkA попарнонесовместны.BiABjA=BiBjAA=VAA=V

Найти вероятностьнаступлениясобытия A. Любоесобытие входящеев A, обязательновходит в некоторое,но одно Bi, т.к.B1, B2, ..., Bk образуютполную группу.

Т.к. B1, B2, ..., Bkнесовместны, то по третейаксиоме теориивероятностиимеем:

;т.е.


Например: Имеютсяурны трех составов

1 5 урн 6 белыхи 3 черных шара
2 3 урны 10 белыхи 1 черный
3 7 урн 0 белыхи 10 черных

Все шары в каждойурне перемешаны.

Испытание -извлекаетсяшар. Какаявероятностьтого, что приэтом будетизвлечен белыйшар.

B1 - Вытащитьлюбой шар изурны 1.

B2 - Вытащитьлюбой шар изурны 2.

B3 - Вытащитьлюбой шар изурны 3.

A - Извлечь белыйшар.

A=B1A+B2A+B3A

B1, B2, B3 - попарнонесовместны.

Формула полнойвероятности:P(A)=P(B1)P(A/B1)+P(B2)P(A/B2)+P(B3)P(A/B3)

P(B1)=1/3

P(A/B1)=6/9=2/3

P(B2)=1/5

P(A/B2)=10/11

P(B3)=7/15

P(A/B3)=0

P(A)=1/3Ч2/3+1/5Ч11/10+7/15Ч0=2/9+2/11=40/99»0.4

ФормулаБайеса.

Постановказадачи та же,но решаем обратнуюзадачу.

Проводитсяиспытание, врезультатекоторого произошлособытие A. Каковавероятностьтого, что в этомиспытаниипроизошлособытие Bi.

Условные вероятностиназываютсяапостериорными,а безусловные- априорнымивероятностями.

P(ABi)=P(A)P(Bi/A)=P(Bi)P(A/Bi)

Откуда,

Таким образом,формула Байеса:

Композицияиспытаний.

Имеется вероятностноепространство,которое порождаетиспытание 1.

где Ei, i=1, ..., m1 -пространствоэлементарныхсобытий в результатеиспытания.

P(Ei), i=1, ..., m1 - вероятностиэлементарныхсобытий.

Испытание 2порождаетвероятностноепространствовида

P(Ei), P(Qj) - разныевероятностныемеры.

Композициейдвух испытанийназываетсясложное испытание,состоящее вповедениипервого и второгоиспытания.

Композицияиспытанийпорождаетвероятностноепространствовида:

EiQj - композиционноесобытие.

В общем случаепо P(Ei) и P(Qj) найтиP(EiQj) невозможно.

Рассмотримодин частныйслучай, когдаэто можно сделать.

Два испытанияназываютсянезависимыми,если различныеисходы обоихиспытанийопределяютсянесвязаннымимежду собойслучайнымифакторами.

Из определениянезависимостииспытаниявытекает, чтоусловные частостинаступлениясобытия в одномиспытании, приусловии, чтово втором испытаниипроизошлофиксированноечисло событийравны безусловнымчастостям, еслиони существуют.

Пусть испытаниянезависимы.В результатепроведенияпервого испытанияпроизошлоэлементарноесобытие Ei, врезультатевторого испытанияможет произойтивсе что угодно.

Тогда сложноесобытие, определяющееисход первогои второго испытанияимеет вид:

и равно суммекомбинацийисходов первогои второго испытаний.

Вероятностьсложного событияA.

,т.е. результатывторого испытанияне зависят отрезультатовпервого.

Если в результатевторого испытанияпроизошлособытие Qj, ав результатепервого испытаниямогло произойтивсе что угодно,то сложноесобытие B имеетвид:

.

Вероятностьсложного событияB равна суммевероятностейкомбинацийвида EiQj, i=1, ..., m1

,т.к. исходы первогоиспытания невлияют на исходывторого испытания. Из факта:P(AB)=P(A)P(B/A); P(B/A)=P(B); AB=EiQj (надодоказать)

A={EiQ1, EiQ2, ..., EiQj,..., EiQm2}

B={E1Qj, E2Qj, ..., EiQj,..., Em1Qj}

По определениюпроизведенияAB в него входяттолько те события,которые входяти в A, и в B. Из приведенныхвыше формулследует, чтотолько событиеEiQj входити в A, и в B, то AB= EiQj.Следует:

Композиционноепространствоимеет вид:

Общая структуранезависимыхсобытий вкомпозиционномпространстве,порожденномкомпозициейиспытаний:

т.е. в результатепервого испытанияпроизошлиэлементарныесобытия:

.

В результатевторого испытаниясобытия:

.

Сложное событиеB определяетвсе возможныекомбинацииисходов двухиспытанийнезависимодруг от друга.В результатепервого испытанияпроизошлиэлементарныесобытия:

.

В результатевторого испытаниясобытия:

.

Тогда:

,т.к. второе испытаниене влияет нарезультатыпервого.

т.к.

,(надо доказать)

то

При решениипрактическихзадач, связанныхс независимымииспытаниямиобычно не требуетсястроить композиционныхпространствэлементарныхсобытий, аиспользоватьформальноневерную запись: P(AЧB)=P(A)ЧP(B).

Композицияn испытаний.

Имеется n испытаний.Зададим дляi-го испытаниявероятностноепространство:

i=1, ..., n

Композициейn испытанийназываетсясложное испытание,состоящее всовместномпроведенииn испытаний.Задается n испытаний,вероятностноепространствокаждого изкоторых имеетвид:

i=1, ..., n

Композиционноепространствоимеет вид:

j1=1, ..., m1;j2=1, ...,m2;jn=1, ..., mn;

Композицияn независимыхиспытаний.

Испытания (n -испытаний)называютсянезависимыми,если неоднозначностьисхода каждогоиз испытанийопределенане связаннымимежду собойгруппами факторов.

Событие A1: врезультатепроведениякомпозиционногоиспытания впервом испытаниипроизошлособытие

.Тогда

Событие An: врезультатепроведениякомпозиционногоиспытания впервом испытаниипроизошлособытие

.Тогда

i=1, ..., n

Рассмотримсобытие:

В силу определениянезависимостииспытанийочевидно, что:

.

Следовательно:

.

На практикене строяткомпозиционныхпространств,а записываютформальнонеправильнуюформулу:P(A1A2...An)=P(A1)P(A2)...P(An).

Композиционноепространствоимеет вид:

j1=1, ..., m1;j2=1, ...,m2;jn=1, ..., mn;

Общая структуранезависимыхсобытий вкомпозиционномпространствеимеет вид:

1-е событие- это событие,которое происходитв 1-м вероятностномпространстве
2-е событие- это событие,которое происходитво 2-м вероятностномпространстве
n - событие- это событие,которое происходитв n-м вероятностномпространстве

Рассмотримдва вероятностныхпространства.

I II

Очевидно, чтонеопределенностьиспытания доиспытания впервом вероятностномпространствевыше, чем вовтором. Действительно,до испытанияв I нельзя ниодному из событийотдать предпочтения,а во II событиеE3 происходитчаще.


Энтропия -мера неопределенностиисхода испытания(до испытания).


Первым, ктофункциональнозадал выражениедля энтропиибыл Шеннон.


,

Для вероятностногопространства:

Энтропия задаетсявыражением:

.Если P1=0, тоPiЧlogPi­=0.

Самим показать,что:

  1. Есливероятностноепространствоне имеет определенности,т.е. какое-тоиз Pi=1, а остальныеравны 0, то энтропияравна нулю.

  2. Еслиэлементарныйисход равновероятен,т.е.

    ,то энтропияпринимаетмаксимальноезначение.

0ЈPiЈ1,

  1. ,

    т.о.вероятностиp1, p2, ..., ps обращаютсяв ноль, напримерpi, котораяравна 1. Но log1=0.Остальныечисла такжеобращаютсяв 0, т.к.

    .
  2. Докажем,что энтропиясистемы с конечнымчислом состоянийдостигае максимума,когда все состоянияравновероятны.Для этого рассмотримэнтропию системыкак функциювероятностейp1, p2, ..., ps и найдемусловный экстремумэтой функции,при условии,что

    .

Пользуясьметодом неопределенныхмножителейЛагранжа, будемискать экстремумфункции:

.

Дифференцируяпо p1, p2, ..., ps иприравниваяпроизводныенулю получимсистему:

i=1, ..., s

Откуда видно,что экстремумдостигаетсяпри равныхмежду собойp1.

Т.к.

,то p1= p2=, ..., = ps=1/s.

Еденицей измеренияэнтропии являетсяэнтропиявероятностногопространствавида:

,которая называется1 бит.

Неопределенностьисхода испытаниядо испытанияавтоматическиопределяетинформативностьисхода испытанияпосле испытания.Поэтому в битахтакже измеряетсяинформативностьисхода.

Рассмотримдва вероятностныхпространства:

Проводим композициюдвух испытаний.Композиционноепространствоимеет вид:

i=1, ..., s1 j=1, ..., s2

С точки зрениякачественногоанализа максимальнаяэнтропиякомпозиционноговероятностногопространствадостигаетсятогда, когдаиспытаниянезависимы.Найдем энтропиюкомпозиционногопространствадля случаянезависимыхиспытаний.

Биномиальноераспределение.

n испытанийназываютсясистемой испытанийБернулли, еслииспытаниянезависимы,в каждом из нихпроисходитсобытие

,либо
с вероятностьюнаступленияP(A) = p;

Найдем вероятностьтого, что врезультатепроведенныхn испытанийсобытие А произошлоm раз:

Рассмотримкомпозициюn независимыхиспытаний ипостроимкомпозиционноепространствоэлементарныхсобытий.

Общий вид элементаэтого пространстваследующий:

где

При этом вероятностьнаступлениятакого событияравна:

(умножениепри независимыхсобытиях)

Найдем вероятностьнаступлениялюбого элементарногособытия изкомпозиционногопространства:

Рассмотримв композиционномвероятностномпространствесобытие: в nиспытанияхсобытие A произошлоm раз.

Событие A состоитиз

- общее кол-воэлементарныхсобытий, в котороевходит событиеА. А произошлоm раз,
- n-m раз. Вероятностькаждого из этихэлементарныхсобытий одинаковаи равна:

Следовательно,на основанииIII аксиомы теориивероятностирезультатравняется:


(сложениевероятностей)

Случайнаявеличина


Пусть имеетсявероятностноепространствовида

.

Случайнойвеличинойназываетсяизмеримаячисловая скалярнаяфункция

,элементамикоторой являютсяэлементарныесобытия.

Числовая скалярнаяфункция - этофункция, удовлетворяющаяследующемуусловию:

событие
-алгебре и,следовательно,имеет вероятностьнаступления.

Если произведеноиспытание, врезультатекоторого произошлонекотороеэлементарноесобытие

.В соответствиис функцией
этому элементарномусобытию соответствуетчисло, котороеназываетсяреализациейслучайнойвеличины x вданном испытании.

В соответствиис определениемслучайнойвеличины вводитсячисловая скалярнаяфункция F(x),

,определеннаядля каждогодействительногоx и по определениюравная вероятностинаступлениясобытия:


Эта функцияназываетсяфункциейраспределенияслучайнойвеличины

.

Рассмотримтри события:

где a

Свойства:

Покажем, чтоиз факта

A2 -алгебре

A1 -алгебре

и равенства

следует, чтоA3 .

По определению-алгебрыA3 измерима,поэтому можнопринять III аксиомутеории вероятности:

F(x) - неубывающаяфункция

Если x

т.к.

,то преобразованияверны.

Для всех техническихприложенийфункцию распределенияможно считатьнаправленнойслева.

В силу того,что функцияраспределенияне убывает, онаоднозначнозадает стчетно-аддитивнуюмеру на поле,порожденномвсеми полуинтерваламиненулевойдлины.

По введенномуполю построимборелевскуюалгебру. Обозначимее . Возьмемпроизвольноечисло Bне принадлежащееполю. Это точкаили сегмент.Т.к. множество

получено спомощью счетнойсуммы или счетногопересечениямножествпринадлежащих-алгебре,то и это множествопринадлежит-алгебреи, следовательно,существуетвероятностьнаступлениясобытия B. Следовательно,имеет местоследующееэквивалентноеопределениеизмеримойфункции.

Функция

называетсяизмеримой, еслидля любого BОмножество

алгебре

где

множество,полученноеследующимобразом:

Функция g(x) называетсяборелевскойфункцией, еслидля любого Bмножество

Борелевскаяфункция - функция,определяемаяна системеборелевскихмножеств.

В функциональноманализе показано,что все известныеаналитическиефункции являютсяборелевскими.

ТЕОРЕМА:

Пусть g(x) борелевскаяфункция,

-случайнаявеличина, т.е.измеримаяфункция. Тогдафункция

является измеримойи, следовательно,случайнойвеличиной.

Берем произвольноеB.

по определениюборелевскойфункции.

Рассмотриммножество

т.к.

измеримаяфункция и
,то A-алгебре

Следовательно,функция

- измеримаяфункция, т.е.случайнаявеличина.

ТеоремаКолмогорова


Любая числоваяскалярнаяфункция, котораяудовлетворяетсвойствам,которым удовлетворяетфункция распределения,является функциейраспределенияи однозначнозадает вероятностноепространствовида:

 - борелевскаяалгебра;

P - мера на борелевскойалгебре;

R1 - числоваяскалярная ось.

Введем функциюF(x)

Эта функцияопределенадля всех x, неубывающая,непрерывнаясверху. Показатьсамим, что такаяфункция однозначнозадает счетно-аддитивнуюмеру на поле,порожденномвсеми полуинтерваламиненулевойдлины.

Докажем, что0

Согласнотерминологии,если функцияy=f(x) непрерывнана отрезке [a,b], то она ограничена.Поскольку нашафункция неубывающая, томаксимум иминимум онасоответственнобудет иметьтакой:

т.е. 0

2. Пусть имеемследующиефункции.

Построим борелевуалгебру наполе, тогда потеореме о продолжениисчетно-аддитивнаяфункция, определеннаяна поле, безизмененияаксиом теориивероятности,однозначнораспространяетсяна все элементыборелевойалгебры, непринадлежащиеполю. Т.о. вероятностноепространствопостроено,теорема доказана.

Смысл теоремы.

Теорема Колмогоровапозволяетутверждать,что если выисследуетеслучайнуювеличину, тоне надо строитьабстрактноепространствоэлементарныхсобытий, -алгебру,счетно-аддитивнуюмеру, конкретныйвид функции

.Нашей задачейбудет лишь то,что считая R1- числовой скалярнойосью - пространствоэлементарныхсобытий, мыдолжны найтифункцию распределенияF(x), используюстатистику:результатаконкретногоиспытания надслучайнойвеличиной:

X1, X2, ..., Xn

Дискретныеслучайныевеличины


Случайнаявеличина называетсядискретной,если в результатеиспытания онаможет принятьзначение изконечного либосчетного множествавозможныхчисловых значений.

Случайныевеличины вдальнейшембудем обозначатьбольшими буквами:

X, Y, Z

Вероятностноепространстводискретнойслучайнойвеличины задаетсяв виде:

,n - конечное илибесконечное.

Пример:

Испытание -композицияn-независимыхиспытаний, вкаждом из которыхпроисходитсобытие A свероятностьюp, либо

с вероятностью1-p.

Вероятностноепространство

В этом примере-алгебройявляется множествовсех подмножествпространстваэлементарныхсобытий. Введеннуюнами случайнуювеличину x поопределениюможно задать:

- верхняя строчка- это совокупностьвозможныхчисловых значений,которые можетприниматьслучайнаявеличина;

- нижняя строчка- вероятностьнаступленияэтих числовыхзначений.

Практическиво всех задачахестествознанияотсутствуетпромежуточныйэтап: испытание, - пространствовсех возможныхисходов испытания,

-числовая скалярнаяфункция, элементыкоторой w.

На самом делеструктура:

- испытание;

- исход испытания;

- число на числовойоси.

Вероятностныехарактеристикидискретныхслучайныхвеличин.


Математическиможиданиемслучайнойвеличины X называетсячисло вида

xi - все возможныеразличныеконкретныеисходы испытания;

pi - вероятностиих наступления.

Математическоеожидание являетсякак бы аналогомцентра массточечной механическойсистемы:

Как центр масс:

Смысл характеристикимат.ожиданиязаключаетсяв следующем:это точка начисловой оси,относительнокоторой группируютсярезультатыконкретныхиспытаний наддискретнойслучайнойвеличиной.

Свойстваматематическогоожидания


1. MC=C


2. MCX=CMX

Построим таблицудля случайнойвеличины CX:

по определениюматематическогоожидания:


3. M(X+a)=MX+a, a=const

Построим таблицудля случайнойвеличины x+a

Доказать следствие


4. M(aX+b)=aMX+b, где a, b - константы

Пусть случайнаявеличина Y являетсяфункцией f(x) отслучайнойвеличины X. Построимвероятностноепространствослучайнойвеличины Y.

Верхняя строчкаявляетсяпространствомэлементарныхсобытий дляслучайнойвеличины Y. Впротивномслучае верхняястрочка являетсяпространствомэлементарныхсобытий длявеличины Y.

Все одинаковыечисла в верхнейстрочке заменяетсяодним, вероятностьнаступлениякоторого равнасумме соответствующихвероятностей.

Следствие.

Математическоеожиданиеслучайнойвеличины Y равняется:

Начальныммоментом К-гопорядка случайнойвеличины X называетсяматематическоеожидание случайнойвеличины Xk.

Центрированнаяслучайнаявеличина - этовеличина, равнаяX’=X-MX

Покажем, чтоматематическоеожидание MX’равно 0.


Центральныммоментом К-гопорядка называетсяначальныймомент К-гопорядка случайнойвеличины X’

при решенииреальных задачпрактическиевероятностирi неизвестны,но считая, чтовероятность- это частость,при большомчисле испытаний

Дисперсиейслучайнойвеличины X,называетсяцентральныймомент второгопорядка случайнойвеличины X.

Дисперсияявляется меройконцентрациирезультатовконкретныхиспытаний надслучайнойвеличиной X.

Свойства.

1. Чем меньшедисперсия, темболее тесногруппируютсярезультатыконкретныхиспытанийотносительноматематическогоожидания.

Пусть дисперсиямала, тогдамало каждоеслагаемое суммы(xi-)2pi.Тогда для , xiкоторое помодулю резкоотличаетсяот математическогоожидания ,pi - мало. Следовательно,большую вероятностьнаступлениямогут иметьлишь те xi, которыепо модулю малоотличаютсяот математическогоожидания.


2. Если дисперсияравна 0, то X - const.


3.

D(X+C)=DX

Y=X+C

Y’=Y-MY=X+C-M(X+C)=X+C-MX-C=X-MX=X’

DY=M(Y’)2=M(X’)2=DX


4.

DCX=C2DX

Y=CX

DY= M(Y’)2=M(Y’)2

Y’=Y-MY=CX-MCX=CX-MCX=C(X-MX)=CX’

DY= M(Y’)2=M(CX’)2=C2M(X’)2=C2DX


5.

Построим функциюраспределениядля дискретнойслучайнойвеличины. Дляудобства договоримся,что случайныевеличинырасполагаютсяв порядкевозрастания.

т.е. по определениюдля любогодействительногоX, F(x) численноравно вероятностинаступленияследующегособытия: в результатеиспытаний надX оно принялозначение строгоменьше x.


Производнаяфункция


Характеристическойфункцией случайнойвеличины X называетсяфункция действительногоаргумента вида

Производящейфункцией называетсяскалярнаяфункция вида:



Свойства производящейфункции


1.


2.


3. Разложениепроизводящейфункции в рядМаклорена имеетвид


Формула Тейлораимеет вид

при to=0 она носитназвание формулыМаклорена

Пример:

Рассмотримслучайнуювеличину,распределеннуюпо биноминальномузакону распределения:

Найдем производящуюфункцию:

Найти DX и MX

Перваямодель распределенияПуассона


Проведенанеограниченнобольшая серияиспытаний, врезультатекаждого испытанияслучайнымобразом появляетсяточка на числовойоси. Случайноераспределениеточек на числовойоси удовлетворяетследующим тремсвойствам.

1. Стационарность.Вероятностьтого, что наотрезок даннойдлины попадаетданное количествоточек определяетсятолько длинойэтого отрезкаи не зависитот расположенияэтого отрезкана числовойоси.

2. Ординарность.Вероятностьтого, что надостаточномалый отрезокдлины xпопадает однаточка, являетсябесконечномалой xпорядка. Вероятностьтого, что наэтот отрезокпопадает более,чем одна точка,является бесконечномалой болеевысокого порядка,чем x.

3. Свойство безпоследействия.Вероятностьтого, что наданный отрезокпопало определенноеколичествоточек не зависитот того, сколькоточек в результатепроведеннойбесконечносерии испытанийпопало на отрезок,не пересекающийсяс данным.

Найти вероятностьтого, что наданный отрезокдлина l попадаетm точек.



Обозначим черезxl - случайнаявеличина, равнаячисленноститочек, выпавшихна отрезокдлины l.

На числовойоси рассмотримотрезок длины1 и обозначим:

MX1=

Математическоеожидание числаточек, попавшихна отрезокдлины 1. По свойствустационарностиl одинаково длявсех отрезков.


MX1=ll - доказать

Пусть l - целоечисло. Разобьемотрезок длиныl на l отрезковединой длины.Тогда количествоточек, попавшихна отрезокдлины l будетравно числуточек, попавшихна каждый изнепересекающихсяотрезков длины1 (тут использовалосьсвойствобеспоследействия).

Используяформулу

имеем

MX1=ll

Математическоеожидание числаточек, попавшиена отрезокдлины l равномат. ожиданийточек, попавшихна непересекающиесяотрезки. Пустьl - не целое число.Выделяем целуючасть. Тогда

На числовойоси рассмотримотрезок длиныl, разобьем егона n отрезковданной длины

такой, что позволитиспользоватьсвойствоординарности.Тогда с определеннойпогрешностью,которая темменьше, чембольше n можносчитать

т.е. на отрезокдлины xпопадает неболее, чем однаточка, тогда

Для достаточногомалого отрезкадлины lxвероятностьпопадания внего однойточки x,а вероятностьтого, что ничегоне произойдет1- x.

В сделанныхпредположенияхm точек попадаетна отрезокдлины l тольков одном случае,когда в m отрезкахпопадает поодной точке.Тогда на основании3-го свойстваискомая вероятностьравна

Точную вероятностьполучим путемпредельногоперехода причисле разделенийотрезка

Тут мы разложили

в ряд Маклорена.

Найдем производящуюфункцию распределенияПуассона

Найти MX и DX

Втораямодель распределенияПуассона


Рассматриваетсяобычная схемабиноминальногораспределения,в котором n - велико,а p - достаточномало. Тогдаточная формуладля вероятностипоявлениясобытия A в mиспытанияхимеет вид

Эта формулапри большихn вычисляетсясложно. Такуювероятностьзаменяют приближенной

Для найденногоa построимгипотетическийряд вероятностей

Предполагается,что для достаточнобольших n и малыхp искомая вероятность

является членомпостроенногогипотетическогоряда вероятностей,а во вторыхнаходится вмалой окрестностипредельногозначения этогоряда. И, следовательно,это значениеможно взятьв качестведопустимойхорошей аппроксимациизначений искомойвероятности.

Непрерывныеслучайныевеличины.

Будем рассматриватьпространствоэлементарныхсобытий каксовокупностьвсех точекчисловой оси.В этом случаевведенная ранеефункция распределенияимеет вид:

.

Пусть функцияраспределенияявляется непрерывной.Найдем вероятностьтого, что врезультатеиспытанийслучайнаявеличина X приметзначение a, гдеa - произвольноедействительноечисло.

P(X=a).

Рассмотримнеравенство:

Доказать самим.

Следовательно:

Мы впервыестолкнулисьс ситуацией,когда событиепринципиальноможет произойтив результатеиспытания, ноимеет вероятностьравную 0 . В инженерномтолкованииэто означает:в данной конечнойсерии испытанийданное событиеникогда непроизойдет.

Случайнаявеличина X называетсянепрерывной,если ее пространствомэлементарныхсобытий являетсявся числоваяось (либо отрезок(отрезки) числовойоси), а вероятностьнаступлениялюбого элементарногособытия равнанулю.

P(aЈXЈXЈb)=F(b)-F(a)

Если от сложногособытия вычестьконечное либосчетное множество,вероятностьнаступлениянового событияостанетсянеизменной.

Функция f(x) - числоваяскалярнаяфункция действительногоаргумента xназываетсяплотностьювероятности,и существуетв точке x, еслив этой точкесуществуетпредел:

Свойстваплотностивероятности.

  1. Плотностьвероятностиявляетсянеотрицательнойфункцией.

Следствие: Еслипространствомэлементарныхсобытий являетсяотрезок числовойоси, то пространствоэлементарныхсобытий формальноможно распространитьна всю числовуюось, положиввне отрезказначение плотностивероятностиравное 0.

Второеэквивалентноеопределениеплотностивероятности.

Еслиплотностьвероятностив точке x существует,то P(xЈXЈx+Dx)=f(x)Dx+о(Dx).Вероятностьтого, что врезультатеиспытанияслучайнаявеличина приметзначение вотрезке с точностьюдо о(Dx) равнаF(x)Dx.

Пример:

Равномерноераспределение.

тут p(x)=f(x).



т.к.



Экспоненциальноераспределение.




Непрерывнаяслучайнаявеличина являетсяматематическойабстракциейи в чистом видена практикене встречается,хотя бы потому,что теоретическине может существоватьизмерительноеустройство,вычисляющееэто величину.Следовательно,всегда исследовательимеет дело сослучайнымидискретнымивеличинами.На практикеотрезок [a, b] разбиваютна отрезкиодинаковойдлинны, длинуустремляютк нулю. При этомx принадлежитотрезку. Вероятностьтого, что отрезоксодержит x равна

.При
ситуация эквивалентнаследующему:имеется бесконечноемножестволотерейныхбилетов, одинваш. Ясно, чтов конечнойсерии розыгрышейвы никогда невыиграете.Независимоот этого великоудобство работыс непрерывнымивеличинами.Оно заключаетсяв том, что вероятностныесвойства задаютсяодной из двухфункций - плотностьюраспределениялибо плотностьювероятности.

Вероятностныехарактеристикинепрерывныхслучайныхвеличин.

Пусть имеетсяслучайнаявеличина, являющаясяфункцией отнепрерывнойслучайнойвеличины X.

Y=x(x)

Математическиможиданиемнепрерывнойслучайнойвеличены являетсячисло:

,
-плотностьвероятностислучайнойвеличины.

Обоснованиеэтой формулы.

Аппроксимируемнепрерывнуюслучайнуювеличину Y случайнойвеличены Y*,которая являетсядискретной.Пусть числоваяось - пространствоэлементарныхсобытий случайнойвеличены X, разобьемвсю числовуюось на отрезкидостаточномалой длины.




2n отрезков.

Если в результатеиспытанияслучайнаявеличена X попалав отрезок сначальнойвершиной xi,то случайнаявеличена X*приняла значениеx(xi) с точностьюдо бесконечномалой Dx- длины i-го отрезка.Вероятностьтого, что Y*примет значениеx(xi) с точностьюдо бесконечномалой болеевысокого порядка,чем Dx, темболее точноY* аппроксимируетY.

Вероятностьнаступленияx(xi) дляY* равна

,при
этасумма переходитв
.

Тогда

.

Самим показать,что все свойствамат. ожиданиядля дискретнойслучайнойвеличены сохраняютсядля непрерывнойслучайнойвеличены.

Доказать,что

Доказать самим,что свойство1 и 2 для производящейфункции в дискретномслучае справедливыи для непрерывного.

РаспределениеГаусса - нормальное


Случайнаявеличина имеетнормальноераспределение(распределениеГаусса) и называетсянормальнораспределенной,если ее плотностьвероятности

Из определения

функция распределения

Найдем выражениедля производящейфункции нормальногораспределения

=1 (интегралЭйлера)

Изобразимпримерный видплотности



Рассмотримцентрированнуюнормальнуювеличину, т.е.MX=0

У центральнойнормированнойвеличины всенечетные начальныемоменты равны0

ФункцияЛапласа


Функцией Лапласаназываетсяфункция вида

Свойства:

1) при z>0 функцияЛапласа определяетвероятностьпопаданиянормальнойслучайнойвеличины спараметрами

MX=0

DX=1

в интервале(0, z)


2)


3)

- функция нечетная

Иногда в литературевстречаютсядва вида функцийЛапласа

Функция Лапласатабулирована.Функция Лапласаиспользуетсядля выполнениясобытий вида

для произвольныхнормальныхвеличин.

Найдем вероятностьтого, что врезультатеиспытания надx произойдетсложное событие:x примет числовоезначение,принадлежащееотрезку с концами(a, b).

Пример.

x - случайнаявеличина.

f(x) - плотностьвероятности.

Найти плотностьвероятностиg(n) случайнойвеличины H.

Рассмотримотрезок (h, h+dh). Событиюпопадание H вотрезок (h, h+dh) всилу однозначностифункции h(x) соответствуетпопадание x вотрезок (x, x+dx). Приэтом вероятностинаступлениятакого событияодинаковы:

Тогда построимфункцию h(x), обратнуюx(h), x=x(h).

т.к.

Вероятностьпервого событияравна

Вероятностьвторого события

Следовательно

НеравенствоЧебышева


Рассмотримслучайнуювеличину X сконечным мат.ожиданием идисперсией

Для любогонеотрицательногочисла t вероятностьнаступлениясобытия

Пусть Z - непрерывнаяслучайнаявеличина сплотностьювероятностиf(Z). Пространствособытий величиныZ (0; ). Тогдаимеет местонеравенство

Доказать неравенства

Рассмотримдва сложныхсобытия

a - произвольноедействительноечисло.

Показать самим,что x - удовлетворяети одному и другомунеравенству.

Тогда

справедливо

В данном случае

Равномерностьнеравенствпри >0

или, в частности,при a==MX

при =tсправедливонеравенствоЧебышева.


Многомерныеслучайныевеличины.

Инженернаяинтерпретация.

Проводитсяиспытание. Врезультатеиспытанияфиксируетсяm числовых значенийX1, X2, ...,Xm. Исходиспытанияслучайный.

Пример: Испытание- реализациянекоторойтехнологиивыпуска продукта.Исход - численноезначение mхарактеристик,оценив которыемы оценим качествопродукта.

Т.к. в процессереализациитехнологиина технологиюдействуютслучайныефакторы, торезультатиспытаниянеоднозначен.

Аксиоматика.Формальнаявероятностнаямодель.

Имеется вероятностноепространство:(W, s,P). Зададим m числовыхизмеримыхскалярныхфункций x1(w),..., xm(w).Каждая из этихфункций являетсяодномернойпо определению.Возьмем m произвольныхдействительныхчисел и рассмотримсобытие A.

Очевидно, чтособытие A являетсяпересечениемсобытий Ai вида:

Т.к. каждоеAiОs-алгебре,то и AМs-алгебре.Следовательно,существуетвероятностьнаступлениясобытия A исуществуетчисловая скалярнаяфункция m действительныхаргументов,которая определенадля всех значенийсвоих аргументови численноравна вероятностинаступлениясобытия A.

F(x1, x2, ...,xm)=P(A)

Это m-мернаяфункция распределенияm-мерной случайнойвеличены.

Свойствамногомерногораспределения:

  1. Значениефункции призначении хотябы одного ееаргументаравного -Ґ,равно 0, каквероятностьневозможногособытия.

  2. Значениефункции, привсех значенияхее аргументовравных +Ґ,равно 1, каквероятностьдостоверногособытия.

  3. Функцияне убывает полюбой совокупностиее аргументов.

  4. Функциянепрерывнапочти всюду(для инженернойпрактики этоозначает, чтона конечном,либо счетноммножествеаргументовона может иметьскачки 1-го рода).

Рассмотримарифметическоепространство

и зададимполуинтервалывида:

Доказать самим,что P(B) существует,и образ этогомножествапринадлежитs-алгебрепо w.

Можно доказать,что:

Т.о. многомернаяфункция распределенияпозволяет вm-мерном арифметическомпространствезадать счетно-аддитивнуюмеру - функциюна поле, порожденномувсеми m-мернымиполуинтерваламиобъема ("i,aibi).Тогда построимминимальнуюs-алгебруна этом поле,которая называетсяборелевскимполем (алгеброй)в m-мерном арифметическомпространстве.Любая скалярнаяфункция m-аргументовудовлетворяетвсем свойствам,приведеннымдля m-мернойфункции распределенияи однозначнозадает вероятностноепространствовида:

Таким образом,для инженерногоисследованиязадача свеласьк следующему:пространствоэлементарныхсобытий - этоm-мерное арифметическоепространство.По результатамстатистическихиспытаний нужнооценить m-мернуюфункцию распределенияF(x1, x2, ...,xm). Рассмотримчисловую скалярнуюфункцию m действительныхаргументов.g(x1, x2, ...,xm). Функцияg(x1, x2, ...,xm) называется борелевской,если для любогоBМb в одномерномарифметическомпространствесоответствующая

.Тогда справедливатеорема, доказательствокоторой полностьюповторяетдоказательствов одномерномслучае. Скалярнаяфункция
-является измеримойскалярнойфункцией - случайнойвеличиной.

Двумерныеслучайныевеличины.

Рассмотримиспытание,результатомкоторого являетсяпоявление двухчисел из некоторогоконечного либосчетного множествапар чисел. Этоиспытаниефизически можетбыть однимиспытанием(мгновенноеизмерениеприбором величенытока и напряженияв сети), а такжеможет бытькомпозициейдвух испытаний,каждое из которыхпорождаетодномернуюдискретнуювеличину. Условнодвумернаядискретнаяслучайнаявеличина обозначаетсякак XY, либо любыедве буквы латинскогоалфавита, либодля: X:{x1, x2, ...,xs},Y:{y1, y2, ...,yn}, проводяиспытание наддвумернойслучайнойвеличинойнаходят одноиз чисел из Xлибо из Y. А вероятностноепространстводвумернойслучайнойвеличены формальностроится так:

Двумернойслучайнойвеличинойназываетсясистема из двуходномерныхслучайныхвеличин X, Y, гдекак X, так и Y являютсядискретнымислучайнымивеличинами.В пространствеэлементарныхсобытий дискретнойслучайнойвеличены XY определимсложное событиеA: В результатеиспытания наддвумернойслучайнойвеличиной XY,случайнаявеличина X принялазначение xi,случайнаявеличина Y - любоезначение.

Вводим сложноесобытие B: Врезультатеиспытания наддвумернойслучайнойвеличиной XY,случайнаявеличина Y принялазначение y.

Найдем условнуювероятность:

Аналогично:

Покажем чтосумма условныхвероятностей:

;

Условнымматематическиможиданиемявляется выражение:

;

Условнойдисперсиейназываетсявыражение:

;

.

Условное мат.ожидание идисперсияотличаютсяот безусловнойтолько тем, чтов их определенииподставляетсяусловная вероятностьвместо безусловной.

Условное мат.ожидание случайнойвеличены, приусловии, чтодругая случайнаявеличена принялазаданное значениеопределяетчисло-точку,относительнокоторой группируютсярезультатыконкретныхиспытаний надодной случайнойвеличиной, приусловии, чтов этом испытании(над двумернойслучайнойвеличиной XY)вторая случайнаявеличена принялазаданноефиксированноезначение.

Условная дисперсияопределяетстепень концентрациирезультатовконкретныхиспытаний надодной случайнойвеличинойотносительноусловного мат.ожидания.

При решениипрактическихзадач условноемат ожиданиеи условнаядисперсияобычно используютсяв следующемслучае: проводятиспытание надX и Y, исследовательимеет возможностьизмерять результатыиспытания надодной случайнойвеличиной,измерениедругой недоступно.Если условныедисперсии малы,то в качественеизвестногозначения неизмеряемойслучайнойвеличены, которуюона принялав результатеиспытания,можно братьмат. ожидание.

Двумерныенепрерывныеслучайныевеличины.

Двумернаяслучайнаявеличина называетсянепрерывнойслучайнойвеличиной, еслипространствомее элементарныхсобытий являетсяплоскость, либообласть плоскости,либо областьконечной ненулевойплоскости.Очевидно чтоX и Y являютсяодномерныминепрерывнымислучайнымивеличинами.




Следствиемэтого определенияявляется следующее:любое сложноесобытие размерности1 (произвольнаякривая, принадлежащаяпространствуэлементарныхсобытий) имеетнулевую вероятностьт.к. в противномслучае вероятностьдостоверногособытия никогдабы не равняласьединице. Числоваяскалярнаяфункция двухдействительныхаргументовназываетсядвумернойплотностьювероятности,двумернойслучайнойвеличины XY, еслидля фиксированныхзначений своихаргументовона выполняетравенство

.Приведенноездесь определениеявляется аналогичнымопределениюодномернойплотностивероятности.

Ниже будетвыведено условиесуществованияплотностивероятностидля фиксированныхx, y.

Рассмотримпроизвольнуюобласть G.




Разобьем областьG на множествопрямоугольников,покрывающихобласть G. Тогдана основании3-й аксиомы теориивероятностиимеем: вероятностьискомого событияравна:

.Точное выражениеполучим перейдяк пределу:
(показать самим).

Числовая скалярнаяфункция двухдействительныхаргументовназываетсядвумернойфункциейраспределения,если она прификсированномчисле своихаргументовчисленно равнавероятностинаступленияFx,y(x,y)=P(XЈx,YЈy), еслиX, y - непрерывныеслучайныевеличины, тозначение функциираспределенияне изменится.

Доказать:

По определениювторой смешаннойпроизводной.



B


Найдем по двумернойплотностиодномерныеплотностислучайныхвеличин X и Y.

Т.к. полученноеравенство вернодля всех х, топодинтегральные выражение

аналогично

В математическойтеории вероятностивводится какбазовая формула(1) ибо предлагается,что плотностьвероятностикак аналитическаяфункция можетне существовать.Но т.к. в нашемкурсе мы исследуемтолько 2 конструкции- дискретныеили непрерывные,то для них полученныеформулы эквивалентныи не имеет смыслакакую-то из нихвводить какпервичную.

Условнаяплотностьвероятности.


Найдем плотностьвероятностислучайнойвеличины Y приусловии, чтов результатеиспытания надслучайнойвеличиной XY ,X приняло значениех.

Обозначим

тут мы использоваливторое определениеодномернойплотности.

В качествеусловной плотностивероятностииспользуетсяследующеевыражение

Обоснованиевыражения дляусловной плотностивероятности

Выведем выражениедля

Обозначим

Условное мат.ожидание идисперсия линиирегрессии -зависимостьY от X, выраженнаяв изменениисредних значенийY при переходеx от одного значенияк другому. Найдемматематическоеожидание MZ, где

Двумерныенезависимыеслучайныевеличины (двумерныедискретныеслучайныевеличины)


Двумернаядискретнаяслучайнаявеличина называетсяслучайнойвеличиной снезависимымикомпонентами,если

Показать самим,что справедливо


Доказать самим,что если испытание,исходом которогоявляется парачисел

является композициейдвух независимыхиспытаний, тослучайныевеличины X Yнезависимы.

Независимыенепрерывныедвумерныеслучайныевеличины.


Непрерывнымислучайнымивеличинамис независимымикомпонентаминазываютсяесли:

Непрерывнаядвумернаяслучайнаявеличина имеетнезависимыеслучайныекомпоненты,если

или

Покажем, чтовторое эквивалентнопервому.

Покажем, чтоесли двумернаянепрерывнаяслучайнаявеличина XY порожденакомпозициейнезависимыхиспытаний, тоX и Y независимы.

В силу определениянезависимыхиспытаний вкомпозиционномпространстве

В силу определениянезависимыхиспытаний вкомпозиционномпространствеA и B независимы.

Следовательно:

Многомерныедискретныеслучайныевеличины


Это система,состоящая изm дискретныходномерныхслучайныхвеличин. Всюарифметикупроделатьсамостоятельно.

Многомерныенепрерывныеслучайныевеличины.

Система из mодномерныхнепрерывныхслучайныхвеличин, у которойпространствомэлементарныхсобытий являетсяm-мерное арифметическоепространстволибо его область,имеющая ненулевойобъем.

m-мерная плотностьвероятностиудовлетворяетвыражению

m-мерной функциейраспределенияназываетсячисловая скалярнаяфункция m действительныхаргументов,которая численноравна:

Случайныевеличины x1,x2, ... xm независимы,если

Доказать, чтоесли m-мернаяслучайнаявеличина порожденакомпозициейm-мерных испытаний,то событиянезависимы.

Запишем аналогформул

для многомерногослучая.

Для полученияплотностивероятности

необходимоn-мерную плотностьпроинтегрироватьв бесконечныхпределах попеременным,которые соответствуютслучайнымвеличинам, невходящим в

Найдем плотностьn-мерной случайнойвеличины.

Математическоеожидание скалярнойфункции случайныхаргументов.

Двумерныйдискретныйслучай.

XY

Числовая скалярнаяфункция

является одномернойдискретнойслучайнойвеличиной, соследующимотличием отобычногопредставления:

для того, чтобыв испытанииполучить реализацию

необходимопровести испытаниенад двумернойслучайнойвеличиной XY,зафиксироватьее результатxi,yi и подставитьв
. Полученноечисло и естьреализацияслучайнойвеличины
.

Таблица случайнойвеличины строитсяпо таблице

Двумерныенепрерывныеслучайныевеличины


Случайнуювеличину

аппроксимируемдискретной по следующемуправилу:

пространствоэлементарныхсобытий XY представимв виде совокупностипрямоугольниковс вершинами

,если в результатеиспытания XYпопало в прямоугольник(i,j), то эта случайнаявеличина принялазначение
.Вероятностьнаступленияэтого событияравна:

точное значениемат. ожидания


n-мерныйдискретныйслучай


- многомернаядискретнаяслучайнаявеличина

Найдем

Вероятностноепространствозададим в виде

Тогда


n-мерныйнепрерывныйслучай


Теорема 1.Математическоеожидание суммыслучайныхвеличин равносумме математическихожиданий

а) дискретныйслучай

б) непрерывныйслучай

Пусть n-произвольноечисло

Теорема 2.Математическоеожидание произведениянезависимыхслучайныхвеличин равнопроизведениюмат.ожиданий.

По определениюимеем

т.к. случайныевеличины X и Yнезависимы,то

Коэффициентковариации


Коэффициентомковариацииназываетсявыражение

Эта формулаверна, т.к. вернаследующаяформула.

Пусть

тогда

Если случайныевеличины XYнезависимы,то их коэффициентковариацииравен нулю,обратное вобщем случаеневерно.

Пример.

X - случайнаявеличина, имеющаянормальноераспределениес нулевыммат.ожиданием

Y=X2 (Y и X связаныфункционально).

Найдем

Случайнаявеличина

называетсянормированнойслучайнойвеличиной, еемат.ожиданиеравно 0, а дисперсия-1.

Коэффициентомкорреляциислучайныхвеличин X и Y - эточисло

Следствие:

Если X и Y независимы,то коэффициентковариацииравен 0, то

Доказать, если

независимы,то


Свойствакоэффициентакорреляции


1.

По определению

т.к.

всегда неотрицательна,то


2. Если

,то с вероятность1 X и Y связанылинейно.

РассмотримX*-Y*, отсюда M(X*-Y*)=0.

Если X и Y дискретныеслучайныевеличины, идисперсия равна0, то их сумма(разность) являетсяпостоянной

Пусть X и Y непрерывныеслучайныевеличины, тов соответствиис неравенствомЧебышева

т.к.

Это неравенствои обозначает,что с вероятностью1

откуда y=ax+b, где

Если коэффициенткорреляции

,то результатыопыта лежатна прямой

В общем случаеY можно представитьв виде

Коэффициенткорреляцииявляется меройблизости линейнойсвязи междуслучайнымивеличинамиX и Y: чем ближекоэффициенткорреляциипо модулю к 1,тем более теснорезультатыконкретногоиспытания надX и Y соотносятсяс прямой ax+b.

Нахождениеплотностивероятностисуммы двухнезависимыхслучайныхвеличин


Дискретныйслучай.

Пусть X и Y - дведискретныенезависимыевеличины данногоиспытания иZ=X+Y. Возможноезначение Z=z=x+yвсегда представляетсумму двухвозможныхзначений слагаемыхX=x и Y=y. По правилусложения

где суммированиераспространенона те пары, которыев сумме даютZ. В силу независимостиX и Y

Приняв во внимание,что y=z-x

последняя сумма

распространяетсяне на все значенияx, а только натакие, для которыхz-x равно одномуиз возможныхзначений y.

Если условиться,что P(y=z-x)=0, если z-x непринадлежитк числу возможныхзначений Y, то

Аналогично

Формулы (1) и (2)определяюткомпозициювеличин X и Y.

Или

Непрерывныйслучай.

Пусть X и Y независимыенепрерывныеслучайныевеличины. Пустьf(x,y) - двумернаяплотностьвероятностидвумернойслучайнойвеличины XY.Плотностьсовместногораспределенияf(x,y) в силу независимостиX и Y имеет вид

Рассмотримфункцию распределенияслучайнойвеличины Z.

Для того, чтобыимело местособытие

действительноечисло необходимои достаточно,чтобы случайнаяточка Q(x,y) попалав область 1.

Тогда эта вероятностьравна

Дифференцируяпод знакоминтеграла

Двумерноенормальноераспределение


Двумернаяслучайнаявеличина XYраспределенанормально, еслиее плотностьвероятностиf(x,y) имеет вид

Свойствадвумерногонормальногораспределения


1.


2.

т.е. X и Y имеетодномерноенормальноераспределение.

Сделаем подстановку

тут мы для краткостиобозначили

Прибавляя ивычитая в показателестепени по e по

Сделаем подстановку


3.

то X и Y независимыеслучайныевеличины, топлотностьвероятностидвумернаяраспадаетсяна произведениеодномерных

Найдем условнуюплотностьвероятности

Подставляяв полученноевыражениезначения

и
получаем

Вывод: условнаяплотностьвероятностиоказалосьнормальнойс мат. ожиданием

и дисперсией,постоянной

Многомерноенормальноераспределение


n-мерная непрерывнаяслучайнаявеличина имеетнормальноераспределение,если ее многомернаяплотностьвероятностив матричномвиде

Показать, чтоформула

в двумерномслучае переходитв

для n=2 находим

Показательстепени приe

Найдем обратнуюматрицу матрицеВ

Проводимнепосредственноедоказательство

B - ковариационнаяматрица

Показать, чтоэта формулав двумерномслучае совпадаетс выражением,рассмотренномранее.

Свойства n-мерногонормальногораспределения.

- определительматрицы B - неотрицательноечисло.

По критериюСильвестрова,если

то все главныеминоры матрицыB неотрицательныеи определительматрицы B неотрицателен.


44



Свойствамногомерногонормальногораспределения


Все одномерныеплотностивероятности- это плотностивероятностиодномернойнормальнойслучайнойвеличины спараметрами,определяемымикоординатамивектора X и главнойдиагональюковариационнойматрицы B. Крометого, подвекторвектора

изk элементов,где
такжераспределеннормально.

Если всекоэффициентыкорреляционнойили ковариационнойматрицы B (всеее недиагональныеэлементы) равнынулю, то показатьсамим, что компонентыслучайнойвеличины являютсянезависимыми.

если

,томногомернаяплотностьраспадаетсяна произведениеодномерных,значит
независимы.

Теорема.

ПроводимлинейноепреобразованиеY=AX. A - квадратнаяневырожденнаяматрица, тогдавектор Y такжеимеет n-мерноенормальноераспределениевида

Следствие:Из доказательстватеоремы вытекает,что ковариационнаяматрица

ОператорA переводитпроизвольнуюобласть изарифметическогопространстваRn внекоторуюобласть тогоже пространства.

Рассмотримпроизвольнуюобласть S,принадлежащуюпространствуэлементарныхсобытий случайноймногомернойвеличины X. Ейсоответствуетобласть D впространствеэлементарныхсобытий случайноговектора Y. Приэтом

Запишем этивероятности

где |I| - якобианперехода

Т.к. областьS и соответственноD произвольны,то плотностьвероятностислучайноговектора x равна

n-мернаяплотностьвероятностислучайноговектора Y равна

Преобразуемпоказательстепени e

Можно показать,что если нормальноераспределениеимеет данныйвид, то B - еековариационнаяматрица

Следствие.

-многомерныйнормальныйвектор. A - прямоугольнаяматрица
Тогда Y=AX имеетнормальноераспределениевида

Y - m-мерныйвектор.

Для определенностиположим, чтоматрица Aимеет вид

A = (A1 A2)

A1 -квадратнаяматрица размером

A2 -матрица размерности

Рассмотримматрицу размерности

.Считается, чтоm первых столбцовнезависимы.

равен определителюполученнойквадратнойматрицы и неравен нулю.

E - единственнаяквадратнаяматрица размерности

Следовательно,на основаниидоказаннойтеоремы, векторY имеетмногомерноенормальноераспределение.

Z=CX

Компонентывектора Zимеют вид

Пусть матрица А произвольная,но т.к. ее рангравен m онасодержит m линейнонезависимыхстолбцов. Путемперестановки столбцом соберемэти столбцыв первые m. Исоответствующимобразом пронумеруемкомпонентывектора Х. Попадаемв предыдущийслучай.

Предельныеслучайныепоследовательности.


Рассмотримвероятностноепространство

в котором заданасчетная последовательностьслучайныхвеличин, каждаяиз которыхявляется измеримой

Покажем,что событие

измеримо, т.е.имеет вероятностьнаступления.Действительнособытие

Каждое изэтих событийв пересечениипринадлежит

-алгебре. Поопределению
-алгебры ейпринадлежити счетноеперечислениеэтих событий,таким образомсобытие имеетвероятностьнаступления.

Пустьпоследовательность

имеет пределпри
,который можетбыть постояннойили случайнойвеличиной. Втеории вероятностиэтот пределпонимают следующимобразом: подсходимостьюпоследовательностик пределу понимаютсобытие А котороеможет задаватьсяследующимобразом:

1.

СобытиеА состоит извсех m,удовлетворяющихусловию: длялюбого какугодно большогоr существуеттакое m, что длявсех n выполняется

2. А: Если предел

,то

Для любого,как угоднобольшого rсуществуеттакое m, что длявсех n выполняется


3.Если пределслучайнаявеличина, то

Показатьсамим, чтособытие А с

-алгебре иследовательноимеет вероятностьнаступления

любое событие

измеримо, какдоказывалосьранее
измеримы, иследовательноимеет вероятностьнаступления.Разность
-алгебре.Следовательнособытие А имеетвероятностьнаступления.

Если пределконстанта, тоэквиваленты1 и 2, если случайнаявеличина - то1 и 3.


Существующиеопределениясходимостислучайныхвеличин.


Пусть имеетсясчетная последовательностьслучайныхвеличин и пусть

пределпоследовательности.

1. Счетнаяпоследовательностьсходится кпределу свероятностью1, если Р(А)=1.

Это не вероятностьдостоверногособытия.

2. Сходимостьпо поверхности.

Счетнаяпоследовательностьслучайныхвеличин

сходитсяк
поповерхности,если

3. Сходимостьв среднеквадратичном.

Последовательностьслучайныхвеличин сходитсяк пределу всреднеквадратичном,если выполняется

Покажем, чтоиз сходимостив среднеквадратичномследует сходимостьпо вероятности.

ВоспользуемсяНеравенствомЧебышева

При любомконечном rесли выполняетсясходимостьв среднеквадратичном,то этот пределсуществуети равен 0, т.к.числительсходится к 0, азнаменательконечен.

Теорема.

Счетнаяпоследовательность

сходитсяк пределу
с вероятностью1 только тогда,когда

Указанноевыше событие

имеетсвоим дополнениемсобытие

и сходимостьс вероятностью1 означает, чтоP(B)=0.

Очевидно,что условиетеоремы достаточнорассмотретьдля

.

Положим

СобытияВrm,m=1,2,.... убывают, идля

Докажем это.

Будем искатьP(Br) так

Событие,обратное

имеет следующуюструктуру:

Показать самим,что следующеесобытие включаетпредыдущее.

По построениюсправедливаследующаяформула

По третьейаксиоме теориивероятности

Построенныйряд D1,D2...Dnобразует неубывающуюограниченнуюпоследовательность,следовательноимеет пределсверху.

Поэтому возможенпереход


ТеоремаБернулли.


Рассмотримсистему независимыхиспытанийБернулли.

Системаиспытанийнеограниченна.С каждым i-видомиспытанийсвяжем дискретнуювеличину Xi

Хiпринимаютзначения 1, еслив i-том испытаниипроизошлособытие А и 0 -в противномслучае

Рассмотримслучайнуювеличину

- число появленийсобытия А в nиспытаниях

49



Рассмотримслучайнуювеличину

Это частостьнаступлениясобытия А в nиспытаниях

ИспользуемнеравенствоЧебышева

где e -произвольноенеотрицательноечисло

Рассмотрим

Получена теоремаБернулли.

Частостьнаступленияпроизвольногособытия причисле испытанийстремящемсяк бесконечностипо вероятностисходится ктеоретическойвероятностинаступлениясобытия.

Обоснованиетого, что

- частостьнаступлениясобытия A заключаетсяв следующем:с тоски зренияранее приведенногоопределения,независимымиспытаниямэквивалентныдве схемы:
  • проведениеn раз одного итого же испытания

  • проведениеn независимыхиспытаний надn копиями одногои того же.

Аналогия: 100 размонету подбрасывает1 человек или100 человек подбрасываютпо одной монете.

Законбольших чисел.

Рассмотримнезависимые:одинаковораспределенныеслучайныевеличины X1,X2, ..., Xn с конечныммат. ожиданиеми дисперсией.

Рассмотримих среднееарифметическое

Используявспомогательноенеравенствополучим

получаем

При числеиспытаний,стремящихсяк среднее арифметическоепо вероятностисходится кматематическомуожиданию.

В любом университетскомучебнике доказываетсясходимостьс вероятностью1.

Использованиезакона большихчисел.


Пусть имеетсяодна случайнаявеличина X, надкоторой проведеноn испытаний.Результатыиспытаний

Тогда в силупримечания,сделанногоБернулли, этиn-чисел можносчитать результатомодного испытаниянад n-мернойслучайнойвеличиной, укоторой Xiнезависимыи распределеныкак X, т.е.

Тогда

является реализациейследующего

Для

справедливзакон большихчисел, следовательно
является хорошейоценкой величиныX.

Основытеории характеристическихфункций


Комплекснаяслучайнаявеличина Zопределяетсяс помощью двумернойслучайнойвеличины (X,Y)следующимвыражением

Операции надкомплекснымислучайнымивеличинамисовпадают соперацияминад комплекснымичислами.

Рассмотримскалярнуюфункцию случайныхаргументови числа i.

тогда в теориивероятностиматематическоеожидание случайнойвеличины вычисляетсяпо тем же формулам,что и

,просто i считаютпостояннымпараметром.

Найдем мат.ожиданиеслучайнойвеличины Z.

1. Для комплекснойслучайнойвеличины справедливысвойства аддитивностии мультиплекативностимат.ожидания.

2. Комплексныеслучайныевеличины Z1и Z2 называютсянезависимыми,если независимымежду собойдвумерныеслучайныевеличины

,т.е. попарнонезависимы

Пусть Z1 и Z2независимыекомплексныеслучайныевеличины. Найдеммат.ожиданиепроизведения

3.

а) дискретныйслучай

б) непрерывныйслучай

Двумернаяслучайнаявеличина XY имеетплотностьвероятностиf(x,y).

Характеристическойфункциейдействительнойслучайнойвеличины X называетсяфункция


Свойствахарактеристическойфункции


1. Для дискретногослучая

2. Для непрерывногослучая

Будем считать,что плотностьвероятностиf(x) существует,тогда

3.

Это свойствогарантирует,что характеристическаяфункция всегдасуществует

4. Пусть случайнаявеличина

y=ax+b

5. Характеристическаяфункция суммынезависимыхслучайныхвеличин равнапроизведениюхарактеристическихфункций.

Пусть

хi - независимы

Тогда

Отсюда

6. Если у случайнойвеличины Хконечен начальныймомент n-го порядка,то

а) для

- существуютк-е производныеи при этом

б) имеет месторазложение

Для того, чтобыполученноеравенство былосправедливо,необходимодоказать, чтомы можем дифференцироватьпод знакоминтеграла.

Для доказательстваприведем рядфактов.

1. Аналог теоремыЛибега дляинтеграловРимана

Пусть функция

интегрируемапо Риману и привсех х

сходимостьв каждой точкеизвестна.

Пусть при этом

- некотораяфункция, мажорирующаяданную. Пустьпри этом конеченинтеграл

т.е.

Тогда


2. Некоторыесвойства мат.ожиданийдействительнойслучайнойвеличины

1) Если х>0, то МХ>0- доказать самим

Дискретныйслучай

Введем случайнуювеличину

Аналогично

Очевидно, что

Следовательно

Тогда

Пара

может приниматьзначения:

а) (-,+)в этом случаеговорится, чтоМХ не определено.

б) (-,)в этом случаеговорится, чтоМХ не ограничено.

в) (, ) MX=-

(, ) MX

Очевидно, что

Вывод:

Если MX конечно,то конечно иM/X/

MX, тоM/X/

Если MXk конечно,то конечно иM/Xk/

MXk, тоM/Xk/


3. Пусть

,тогда

на основаниипункта 1.

4. Имеет местоочевидноенеравенство


5. Пусть существует

,тогда для всех

Сумма интегралов

Возвращаемсяк доказательству.

Докажем формулу

Доказательствопроведем помат.индукции.

Проверяем приk=0

формула справедлива.

Пусть формуласправедливадля k

Рассмотрим.

Получили:

Покажем, чтоинтеграл

конечен.

Если

,то и
конечно. А
конечно поусловию, тогдадля

Таким образомможно применятьтеорему Либега.

Это мы доказалисправедливостьформулы

Доказательстворазложения- пункт б) являетсясправедливым,если при исследованииостаточногочлена учесть,что /i/

55