Киевский политехнический институт
КафедраКСОИУ
Конспектлекций
покурсу:
”Теориявероятностии математическаястатистика”
Преподаватель:СтудентII курса
ФИВТ,гр. ИС-41
проф.Павлов А. А.АндреевА. С.
Киев -1996 г.
Теория вероятностивозникла какнаука из убеждения,что в основемассовых случайныхсобытий лежатдетерминированныезакономерности.Теория вероятностиизучает данныезакономерности.
Например: определитьоднозначнорезультатвыпадения“орла” или“решки” в результатеподбрасываниямонеты нельзя,но при многократномподбрасываниивыпадает примерноодинаковоечисло “орлов”и “решек”.
Испытаниемназываетсяреализацияопределенногокомплексаусловий, которыйможет воспроизводитьсянеограниченноечисло раз. Приэтом комплексусловий включаетв себя случайныефакторы, реализациякоторого вкаждом испытанииприводит кнеоднозначностиисхода испытания.
Например: испытание- подбрасываниемонеты.
Результатомиспытанияявляется событие.Событие бывает:
Достоверное(всегда происходитв результатеиспытания);
Невозможное(никогда непроисходит);
Случайное(может произойтиили не произойтив результатеиспытания).
Например: Приподбрасываниикубика невозможноесобытие - кубикстанет на ребро,случайноесобытие - выпадениекакой либограни.
Конкретныйрезультатиспытанияназываетсяэлементарнымсобытием.
В результатеиспытанияпроисходяттолько элементарныесобытия.
Совокупностьвсех возможных,различных,конкретныхисходов испытанийназываетсяпространствомэлементарныхсобытий.
Например: Испытание- подбрасываниешестигранногокубика. Элементарноесобытие - выпадениеграни с “1” или“2”.
Совокупностьэлементарныхсобытий этопространствоэлементарныхсобытий.
Сложным событиемназываетсяпроизвольноеподмножествопространстваэлементарныхсобытий.
Сложное событиев результатеиспытаниянаступает тогдаи только тогда,когда в результатеиспытанийпроизошлоэлементарноесобытие, принадлежащеесложному.
Таким образом,если в результатеиспытания можетпроизойтитолько одноэлементарноесобытие, то врезультатеиспытанияпроисходятвсе сложныесобытия, в составкоторых входятэти элементарные.
Например: испытание- подбрасываниекубика. Элементарноесобытие - выпадениеграни с номером“1”. Сложноесобытие - выпадениенечетной грани.
Введем следующиеобозначения:
А - событие;
w - элементыпространстваW;
W - пространствоэлементарныхсобытий;
U - пространствоэлементарныхсобытий какдостоверноесобытие;
V - невозможноесобытие.
Иногда дляудобства элементарныесобытия будемобозначатьEi, Qi.
1. Событие C называетсясуммой A+B, еслионо состоитиз всех элементарныхсобытий, входящихкак в A, так и вB. При этом еслиэлементарноесобытие входити в A, и в B, то в C оновходит одинраз. В результатеиспытаниясобытие C происходиттогда, когдапроизошлособытие, котороевходит или вA или в B. Суммапроизвольногоколичествасобытий состоитиз всех элементарныхсобытий, которыевходят в одноиз Ai, i=1, ..., m.
2. Событие C произведениемA и B, если оносостоит из всехэлементарныхсобытий, входящихи в A, и в B. Произведениемпроизвольногочисла событий называетсясобытие состоящееиз элементарныхсобытий, входящихво все Ai, i=1, ..., m.
3. Разностьюсобытий A-B называетсясобытие C, состоящееиз всех элементарныхсобытий, входящихв A, но не входящихв B.
4. Событие называетсяпротивоположнымсобытию A, еслионо удовлетворяетдвум свойствам.
Формулы деМоргана:
и5. События A и Bназываютсянесовместными,если они никогдане могут произойтив результатеодного испытания.
События A и Bназываютсянесовместными,если они неимеют общихэлементарныхсобытий.
C=AЧB=V
Тут V - пустоемножество.
Пусть пространствоэлементарныхсобытий конечнои состоит изm элементарныхсобытий. В этомслучае в качествевозможныхисходов испытанийрассматривают2m событий- множествовсех подмножествпространстваэлементарныхсобытий Wи невозможноесобытие V.
Пример:
W=(w1,w2, w3)
A1=V
A2=(1)
A3=(2)
A4=(3)
A5=(1,2)
A6=(2,3)
A7=(1,3)
A8=(w1, w2,w3)
Обозначимсистему этихсобытий черезF. Берем произвольноесобытие AОF.Проводим сериюиспытаний вколичествеn. n - это количествоиспытаний, вкаждом из которыхпроизошлособытие A.
Частостьюнаступлениясобытия A в nиспытанияхназываетсячисло
Частостьдостоверногособытия равна1. n(U)=1.
Частость суммыпопарно несовместныхсобытий равнасумме частостей.
Рассмотримсистему Ai, i=1,..., k; события попарнонесовместны,т.е.
СобытиеПусть в результатенекоторогоиспытанияпроизошлособытие A. Поопределениюсумы это означает,что в этом испытаниипроизошлонекотороесобытие Ai. Таккак все событияпопарно несовместны,то это означает,что никакоедругое событиеAj (i№j) вэтом испытаниипроизойти неможет. Следовательно:
nA=nA1+nA2+...+nAk
Теория вероятностииспользуетсяпри описаниитолько такихиспытаний, длякоторых выполняетсяследующеепредположение:Для любогособытия A частостьнаступленияэтого событияв любой бесконечнойсерии испытанийимеет один итот же предел,который называетсявероятностьюнаступлениясобытия A.
Следовательно,если рассматриваетсявероятностьнаступленияпроизвольногособытия, то мыпонимаем эточисло следующимобразом: эточастость наступлениясобытия в бесконечной (достаточнодлинной) сериииспытаний.
К сожалению,попытка определитьвероятностькак пределчастости, причисле испытаний,стремящихсяк бесконечности,закончиласьнеудачно. Хотяамериканскийученый Мизессоздал теориювероятности,базирующуюсяна этом определении,но ее не призналииз-за большогоколичествавнутреннихлогическихнесоответствий.
Теория вероятностикак наука былапостроена нааксиоматикеКолмогорова.
Последовательностроим вероятностноепространство.
Этап 1:
Имеется испытание.В результатепроведенияиспытания можетнаблюдатьсяодно событиеиз серии событийe. Все событияиз системы eназываютсянаблюдаемыми.Введем предположение,что если событияA М e,B М eнаблюдаемы,то наблюдаемыи события
.Система событийF называетсяполем событийили алгебройсобытий, еслидля двух произвольныхсобытий A, B МF выполняется:
Дополнения
(A+B) О F, (AЧB)О F
все конечныесуммы элементовиз алгебрыпринадлежаталгебре
все конечныепроизведенияэлементов изалгебры принадлежаталгебре
все дополненияконечных сумми произведенийпринадлежаталгебре.
Таким образом,систему eмы расширяемдо алгебры илиполя F путемвключения всехконечных сумм,произведений,и их дополнений.Т.е. считаем,что в результатепроведенияиспытаниянаблюдаемаясистема являетсяполем или алгеброй.
Множество всехподмножествконечного числасобытий являетсянаблюдаемойсистемой - алгеброй,полем.
Этап 2:
Каждому событиюA О F ставимв соответствиечисло P(A), котороеназываетсявероятностьюнаступлениясобытия A. Такаяоперация задаетвероятностнуюмеру.
Вероятностнаямера - числоваяскалярнаяфункция, аргументамикоторой являютсяэлементы изсистемы алгебрыF. Введеннаявероятностнаямера удовлетворяетсистеме из трехаксиом.
P(U)=1.
Рассмотримконечную илибесконечнуюсистему попарнонесовместныхсобытий, каждоеиз которыхпринадлежиталгебре F.
Алгебра событийназываетсяs - алгеброй,если эта системасобытий содержитв себе все конечныесуммы и произведенияиз алгебры F иих дополнения,а также всебесконечныесуммы и произведенияиз алгебры иих дополнения.
Пример: В пространствеR1 зададим вкачестве полясобытий всеконечные интервалывида aіx>b,b№a.
Распространениеэтой алгебрына s - алгебруприводит кпонятию борелевскойалгебры, элементыкоторой называютсяборелевскимимножествами.Борелевскаяалгебра получаетсяне только расширениемполя вида aіx>b,но и расширениемполей видаa>xіb,aіxіb.
Над наблюдаемымполем событийF задаетсясчетно-аддитивнаямера - числоваяскалярнаяфункция, элементамикоторой являютсяэлементы поляF, т.е. события.Она удовлетворяетследующим тремусловиям-аксиомамтеории вероятности.
P(A) О [0, 1] P(U)=1.
Пусть имеетсяA1, A2, A3,..., Ak -система попарнонесовместныхсобытий
Построим минимальнуюs - алгебру, которой принадлежитполе событийF (например,борелевскаяs - алгебра- это минимальнаяs - алгебра,которая содержитполе всехполуинтерваловненулевойдлины).
Тогда доказывается,что счетно-аддитивнаяфункция P(A) однозначнораспространяетсяна все элементыминимальнойs - алгебрыи при этом ниодна из аксиомне нарушается.
Таким образом,продленноеP(A) называетсяs - аддитивноймерой.
s - алгебрасодержитненаблюдаемыесобытия нарядус наблюдаемыми.
Но в аксиоматическойтеории вероятностисчитается, чтоможет произойтилюбое событиеиз s - алгебры.
Расширениеполя наблюдаемыхсобытий на s- алгебру связанос невозможностьюполучить основныерезультатытеории вероятностибез понятияs - алгебры.
Вероятностнымпространствомназываетсятройка (W,s, P), где
W - пространствоэлементарныхсобытий, построенноедля данногоиспытания;
s - s-алгебра,заданная наW - системевозможныхсобытий, котораяинтересуетисследователя,в результатепроводимыхиспытаний;
P - s - аддитивнаямера, т.е. s- аддитивнаянеотрицательнаяфункция, аргументамикоторой являютсяаргументы изs - алгебрыи удовлетворяющаятрем аксиомамтеории вероятности.
Вероятностьдостоверногособытия равна1 P(W)=1.
Вероятностьсуммы несовместныхсобытий равнасумме вероятностей
k - возможнобесконечноечисло.
Следствие:
Вероятностьневозможногособытия равна0.
По определениюсуммы имеетместо неравенствоW+V=W.W и V несовместныесобытия.
По третей аксиометеории вероятностиимеем:
P(W+V)=P(Q)=P(U)=1
P(W)+P(V)=P(W)
1+P(V)=1
P(V)=1
Пусть Wсостоит изконечного числаэлементарныхсобытий W={E1,E2,..., Em} тогдапо определению
.Элементарныесобытия несовместны,тогда по третейаксиоме теориивероятностиимеет местоПусть некотороесобытие AМWсостоит из kэлементарныхсобытий, тогда{Ei1, Ei2,..., Eik}
Доказать: ЕслиAМB, тоP(B)іP(A), B=A+C, A и Cнесовместны.
* Пусть B=A+C, A и B несовместны.Тогда по третейаксиоме теориивероятностиP(B)=P(A+C)=P(A)+P(C) т.к. 1іP(C)і0- положительноечисло, то P(B)іP(A).
Пусть Wсостоит изконечного числаэлементарныхсобытий и всеэлементарныесобытия равновероятны,т.е. ни одномуиз них из нихнельзя отдатьпредпочтениядо испытания,следовательно,их можно считатьравновероятными.
Тогда достоверноесобытие
m - количестворавновероятныхсобытий , ,Пусть произвольноесобытие
Тогда ,т.е. событие Aсостоит из kэлементарныхсобытий.Если элементарныесобытия являютсяравноправными,а, следовательно,и равновероятными,то вероятностьнаступленияпроизвольногособытия равнадроби числителькоторой равенчислу элементарныхсобытий, входящихв данное, азнаменатель- общее числоэлементарныхсобытий.
P(A/B)
Условной вероятностьюнаступлениясобытия A, приусловии событияB, называетсявероятностьнаступлениясобытия A врезультатеиспытаний, еслиизвестно, чтов это испытаниипроизошлособытие B.
Вывод формулыусловной вероятностидля случаяравновероятныхэлементарныхсобытий
Действительно,в данном испытаниипроизошло одноиз t событий,входящих в B.Все элементарныесобытия равновероятны,следовательно,для данногоиспытаниявероятностьнаступленияпроизвольногоэлементарногособытия, входящегов B равна 1/t. Тогдапо классическомуопределениювероятности,в данном испытаниисобытие A произойдетс вероятностьюr/t.
В общем случаедоказать этуформулировкуневозможно,в теории вероятностиона вводитсякак правило.Существуетлишь толкованиеэтой формулы.
Пусть в nB испытанияхпроизошлособытие B, а вnA испытанияхпроизошлособытие A. Найдемусловную частостьнаступлениясобытия A приусловии, чтопроизошлособытие B. Мыможем сделатьэто для обоснованияформулы, т.к.под вероятностьюнаступлениясобытия понимаетсяпредел частостинаступлениясобытия приусловии, чтосерия испытанийдостаточнодлинная.
Условная частость
РассматриваяAB как одно событиеD имеем:
с другой стороныРассмотримсистему событийA1, A2,...,Ak. Покажем,что вероятностьих совместногонаступленияравна:
Доказательствопроведем помат индукции.
Формула равнадля 2 и 3 (см. ранее)
Пусть формулаверна для k-1.
Введем событиеB.
P(A1A2...Ak-1)=P(B)
P(A1A2...Ak)=P(AkB)=P(B)ЧP(AkB)
Два событияA и B называютсянезависимыми,если P(A/B)=P(A); P(B)=P(B/A) - доказать.
В этом случаевероятностьнаступлениядвух событийA и B равнаP(AB)=P(B)P(A/B)=P(A)P(B),
при этом покажем,что P(B/A)=P(B); P(AB)=P(B)P(A)=P(A)P(B/A)
События A1A2...Akназываютсянезависимымимежду собой,если вероятностьих совместногонаступления
; .Два независимыхсобытия совместны.* Если бы событиябыли несовместны,то P(A/B)=0 и P(B/A)=0, т.к. онинезависимы,то P(A/B)=P(A) и P(B/A)=P(B), т.е.утверждение“независимыесобытия несовместны”,т.к. P(A)=0 и P(B)=0, то этоутверждениеневерно.
U - достоверноесобытие
Покажем, чтособытия
несовместны.* Если событиянесовместны,то
; ;т.е. событиянесовместны.
Тогда по третейаксиоме теориивероятности
Справедливоследующеетождество наосновании (1) изакона дистрибутивности
Показать самим,что все тримножествапопарно несовместны.
На основаниипервой и третейаксиомы теориивероятностиполучаем:
Имеет местотождество
,показать самим,что несовместныПо третей аксиоме:
Для экзаменадоказать самимформулу суммыпроизвольногочисла событий
Рассмотримсистему A из kпопарно несовместныхсобытий.
B1, B2, ..., Bk
Пусть данособытие A, удовлетворяющееравенствуA=B1A+B2A+...+BkA.
Показать, чтособытия B1A,B2A, BkA попарнонесовместны.BiABjA=BiBjAA=VAA=V
Найти вероятностьнаступлениясобытия A. Любоесобытие входящеев A, обязательновходит в некоторое,но одно Bi, т.к.B1, B2, ..., Bk образуютполную группу.
Т.к. B1, B2, ..., Bkнесовместны, то по третейаксиоме теориивероятностиимеем:
;т.е.Например: Имеютсяурны трех составов
1 | 5 урн | 6 белыхи 3 черных шара |
2 | 3 урны | 10 белыхи 1 черный |
3 | 7 урн | 0 белыхи 10 черных |
Все шары в каждойурне перемешаны.
Испытание -извлекаетсяшар. Какаявероятностьтого, что приэтом будетизвлечен белыйшар.
B1 - Вытащитьлюбой шар изурны 1.
B2 - Вытащитьлюбой шар изурны 2.
B3 - Вытащитьлюбой шар изурны 3.
A - Извлечь белыйшар.
A=B1A+B2A+B3A
B1, B2, B3 - попарнонесовместны.
Формула полнойвероятности:P(A)=P(B1)P(A/B1)+P(B2)P(A/B2)+P(B3)P(A/B3)
P(B1)=1/3 | P(A/B1)=6/9=2/3 |
P(B2)=1/5 | P(A/B2)=10/11 |
P(B3)=7/15 | P(A/B3)=0 |
P(A)=1/3Ч2/3+1/5Ч11/10+7/15Ч0=2/9+2/11=40/99»0.4
Постановказадачи та же,но решаем обратнуюзадачу.
Проводитсяиспытание, врезультатекоторого произошлособытие A. Каковавероятностьтого, что в этомиспытаниипроизошлособытие Bi.
Условные вероятностиназываютсяапостериорными,а безусловные- априорнымивероятностями.
P(ABi)=P(A)P(Bi/A)=P(Bi)P(A/Bi)
Откуда,
Таким образом,формула Байеса:
Имеется вероятностноепространство,которое порождаетиспытание 1.
где Ei, i=1, ..., m1 -пространствоэлементарныхсобытий в результатеиспытания.
P(Ei), i=1, ..., m1 - вероятностиэлементарныхсобытий.
Испытание 2порождаетвероятностноепространствовида
P(Ei), P(Qj) - разныевероятностныемеры.
Композициейдвух испытанийназываетсясложное испытание,состоящее вповедениипервого и второгоиспытания.
Композицияиспытанийпорождаетвероятностноепространствовида:
EiQj - композиционноесобытие.
В общем случаепо P(Ei) и P(Qj) найтиP(EiQj) невозможно.
Рассмотримодин частныйслучай, когдаэто можно сделать.
Два испытанияназываютсянезависимыми,если различныеисходы обоихиспытанийопределяютсянесвязаннымимежду собойслучайнымифакторами.
Из определениянезависимостииспытаниявытекает, чтоусловные частостинаступлениясобытия в одномиспытании, приусловии, чтово втором испытаниипроизошлофиксированноечисло событийравны безусловнымчастостям, еслиони существуют.
Пусть испытаниянезависимы.В результатепроведенияпервого испытанияпроизошлоэлементарноесобытие Ei, врезультатевторого испытанияможет произойтивсе что угодно.
Тогда сложноесобытие, определяющееисход первогои второго испытанияимеет вид:
и равно суммекомбинацийисходов первогои второго испытаний.
Вероятностьсложного событияA.
,т.е. результатывторого испытанияне зависят отрезультатовпервого.Если в результатевторого испытанияпроизошлособытие Qj, ав результатепервого испытаниямогло произойтивсе что угодно,то сложноесобытие B имеетвид:
.Вероятностьсложного событияB равна суммевероятностейкомбинацийвида EiQj, i=1, ..., m1
,т.к. исходы первогоиспытания невлияют на исходывторого испытания. Из факта:P(AB)=P(A)P(B/A); P(B/A)=P(B); AB=EiQj (надодоказать)A={EiQ1, EiQ2, ..., EiQj,..., EiQm2}
B={E1Qj, E2Qj, ..., EiQj,..., Em1Qj}
По определениюпроизведенияAB в него входяттолько те события,которые входяти в A, и в B. Из приведенныхвыше формулследует, чтотолько событиеEiQj входити в A, и в B, то AB= EiQj.Следует:
Композиционноепространствоимеет вид:
Общая структуранезависимыхсобытий вкомпозиционномпространстве,порожденномкомпозициейиспытаний:
т.е. в результатепервого испытанияпроизошлиэлементарныесобытия:
.В результатевторого испытаниясобытия:
.Сложное событиеB определяетвсе возможныекомбинацииисходов двухиспытанийнезависимодруг от друга.В результатепервого испытанияпроизошлиэлементарныесобытия:
.В результатевторого испытаниясобытия:
.Тогда:
,т.к. второе испытаниене влияет нарезультатыпервого.т.к.
,(надо доказать)то
При решениипрактическихзадач, связанныхс независимымииспытаниямиобычно не требуетсястроить композиционныхпространствэлементарныхсобытий, аиспользоватьформальноневерную запись: P(AЧB)=P(A)ЧP(B).
Имеется n испытаний.Зададим дляi-го испытаниявероятностноепространство:
i=1, ..., nКомпозициейn испытанийназываетсясложное испытание,состоящее всовместномпроведенииn испытаний.Задается n испытаний,вероятностноепространствокаждого изкоторых имеетвид:
i=1, ..., nКомпозиционноепространствоимеет вид:
j1=1, ..., m1;j2=1, ...,m2;jn=1, ..., mn;Испытания (n -испытаний)называютсянезависимыми,если неоднозначностьисхода каждогоиз испытанийопределенане связаннымимежду собойгруппами факторов.
Событие A1: врезультатепроведениякомпозиционногоиспытания впервом испытаниипроизошлособытие
.ТогдаСобытие An: врезультатепроведениякомпозиционногоиспытания впервом испытаниипроизошлособытие
.Тогда i=1, ..., nРассмотримсобытие:
В силу определениянезависимостииспытанийочевидно, что:
.Следовательно:
.На практикене строяткомпозиционныхпространств,а записываютформальнонеправильнуюформулу:P(A1A2...An)=P(A1)P(A2)...P(An).
Композиционноепространствоимеет вид:
j1=1, ..., m1;j2=1, ...,m2;jn=1, ..., mn;Общая структуранезависимыхсобытий вкомпозиционномпространствеимеет вид:
1-е событие- | это событие,которое происходитв 1-м вероятностномпространстве |
2-е событие- | это событие,которое происходитво 2-м вероятностномпространстве |
n - событие- | это событие,которое происходитв n-м вероятностномпространстве |
Рассмотримдва вероятностныхпространства.
I | II |
Очевидно, чтонеопределенностьиспытания доиспытания впервом вероятностномпространствевыше, чем вовтором. Действительно,до испытанияв I нельзя ниодному из событийотдать предпочтения,а во II событиеE3 происходитчаще.
Энтропия -мера неопределенностиисхода испытания(до испытания).
Первым, ктофункциональнозадал выражениедля энтропиибыл Шеннон.
Для вероятностногопространства:
Энтропия задаетсявыражением:
.Если P1=0, тоPiЧlogPi=0.Самим показать,что:
Есливероятностноепространствоне имеет определенности,т.е. какое-тоиз Pi=1, а остальныеравны 0, то энтропияравна нулю.
Еслиэлементарныйисход равновероятен,т.е.
,то энтропияпринимаетмаксимальноезначение.0ЈPiЈ1,
т.о.вероятностиp1, p2, ..., ps обращаютсяв ноль, напримерpi, котораяравна 1. Но log1=0.Остальныечисла такжеобращаютсяв 0, т.к.
.Докажем,что энтропиясистемы с конечнымчислом состоянийдостигае максимума,когда все состоянияравновероятны.Для этого рассмотримэнтропию системыкак функциювероятностейp1, p2, ..., ps и найдемусловный экстремумэтой функции,при условии,что
.Пользуясьметодом неопределенныхмножителейЛагранжа, будемискать экстремумфункции:
.Дифференцируяпо p1, p2, ..., ps иприравниваяпроизводныенулю получимсистему:
i=1, ..., sОткуда видно,что экстремумдостигаетсяпри равныхмежду собойp1.
Т.к.
,то p1= p2=, ..., = ps=1/s.Еденицей измеренияэнтропии являетсяэнтропиявероятностногопространствавида:
,которая называется1 бит.Неопределенностьисхода испытаниядо испытанияавтоматическиопределяетинформативностьисхода испытанияпосле испытания.Поэтому в битахтакже измеряетсяинформативностьисхода.
Рассмотримдва вероятностныхпространства:
Проводим композициюдвух испытаний.Композиционноепространствоимеет вид:
i=1, ..., s1 j=1, ..., s2С точки зрениякачественногоанализа максимальнаяэнтропиякомпозиционноговероятностногопространствадостигаетсятогда, когдаиспытаниянезависимы.Найдем энтропиюкомпозиционногопространствадля случаянезависимыхиспытаний.
n испытанийназываютсясистемой испытанийБернулли, еслииспытаниянезависимы,в каждом из нихпроисходитсобытие
,либо с вероятностьюнаступленияP(A) = p;Найдем вероятностьтого, что врезультатепроведенныхn испытанийсобытие А произошлоm раз:
Рассмотримкомпозициюn независимыхиспытаний ипостроимкомпозиционноепространствоэлементарныхсобытий.
Общий вид элементаэтого пространстваследующий:
где |
При этом вероятностьнаступлениятакого событияравна:
(умножениепри независимыхсобытиях)Найдем вероятностьнаступлениялюбого элементарногособытия изкомпозиционногопространства:
Рассмотримв композиционномвероятностномпространствесобытие: в nиспытанияхсобытие A произошлоm раз.
Событие A состоитиз
- общее кол-воэлементарныхсобытий, в котороевходит событиеА. А произошлоm раз, - n-m раз. Вероятностькаждого из этихэлементарныхсобытий одинаковаи равна:Следовательно,на основанииIII аксиомы теориивероятностирезультатравняется:
Пусть имеетсявероятностноепространствовида
.Случайнойвеличинойназываетсяизмеримаячисловая скалярнаяфункция
,элементамикоторой являютсяэлементарныесобытия.Числовая скалярнаяфункция - этофункция, удовлетворяющаяследующемуусловию:
событие -алгебре и,следовательно,имеет вероятностьнаступления.Если произведеноиспытание, врезультатекоторого произошлонекотороеэлементарноесобытие
.В соответствиис функцией этому элементарномусобытию соответствуетчисло, котороеназываетсяреализациейслучайнойвеличины x вданном испытании.В соответствиис определениемслучайнойвеличины вводитсячисловая скалярнаяфункция F(x),
,определеннаядля каждогодействительногоx и по определениюравная вероятностинаступлениясобытия:Эта функцияназываетсяфункциейраспределенияслучайнойвеличины
.Рассмотримтри события:
где a
Свойства:
Покажем, чтоиз факта
A2 -алгебре
A1 -алгебре
и равенства
следует, чтоA3 .По определению-алгебрыA3 измерима,поэтому можнопринять III аксиомутеории вероятности:
F(x) - неубывающаяфункция
Если x
т.к.
,то преобразованияверны.Для всех техническихприложенийфункцию распределенияможно считатьнаправленнойслева.
В силу того,что функцияраспределенияне убывает, онаоднозначнозадает стчетно-аддитивнуюмеру на поле,порожденномвсеми полуинтерваламиненулевойдлины.
По введенномуполю построимборелевскуюалгебру. Обозначимее . Возьмемпроизвольноечисло Bне принадлежащееполю. Это точкаили сегмент.Т.к. множество
получено спомощью счетнойсуммы или счетногопересечениямножествпринадлежащих-алгебре,то и это множествопринадлежит-алгебреи, следовательно,существуетвероятностьнаступлениясобытия B. Следовательно,имеет местоследующееэквивалентноеопределениеизмеримойфункции.Функция
называетсяизмеримой, еслидля любого BОмножество алгебрегде
множество,полученноеследующимобразом:Функция g(x) называетсяборелевскойфункцией, еслидля любого Bмножество
Борелевскаяфункция - функция,определяемаяна системеборелевскихмножеств.
В функциональноманализе показано,что все известныеаналитическиефункции являютсяборелевскими.
ТЕОРЕМА:
Пусть g(x) борелевскаяфункция,
-случайнаявеличина, т.е.измеримаяфункция. Тогдафункцияявляется измеримойи, следовательно,случайнойвеличиной.
Берем произвольноеB.
по определениюборелевскойфункции.Рассмотриммножество
т.к.
измеримаяфункция и ,то A-алгебреСледовательно,функция
- измеримаяфункция, т.е.случайнаявеличина.Любая числоваяскалярнаяфункция, котораяудовлетворяетсвойствам,которым удовлетворяетфункция распределения,является функциейраспределенияи однозначнозадает вероятностноепространствовида:
- борелевскаяалгебра;
P - мера на борелевскойалгебре;
R1 - числоваяскалярная ось.
Введем функциюF(x)
Эта функцияопределенадля всех x, неубывающая,непрерывнаясверху. Показатьсамим, что такаяфункция однозначнозадает счетно-аддитивнуюмеру на поле,порожденномвсеми полуинтерваламиненулевойдлины.
Докажем, что0 Согласнотерминологии,если функцияy=f(x) непрерывнана отрезке [a,b], то она ограничена.Поскольку нашафункция неубывающая, томаксимум иминимум онасоответственнобудет иметьтакой:
т.е. 0 2. Пусть имеемследующиефункции. Построим борелевуалгебру наполе, тогда потеореме о продолжениисчетно-аддитивнаяфункция, определеннаяна поле, безизмененияаксиом теориивероятности,однозначнораспространяетсяна все элементыборелевойалгебры, непринадлежащиеполю. Т.о. вероятностноепространствопостроено,теорема доказана. Смысл теоремы. Теорема Колмогоровапозволяетутверждать,что если выисследуетеслучайнуювеличину, тоне надо строитьабстрактноепространствоэлементарныхсобытий, -алгебру,счетно-аддитивнуюмеру, конкретныйвид функции
X1, X2, ..., Xn
Случайнаявеличина называетсядискретной,если в результатеиспытания онаможет принятьзначение изконечного либосчетного множествавозможныхчисловых значений.
Случайныевеличины вдальнейшембудем обозначатьбольшими буквами:
X, Y, Z
Вероятностноепространстводискретнойслучайнойвеличины задаетсяв виде:
,n - конечное илибесконечное.Пример:
Испытание -композицияn-независимыхиспытаний, вкаждом из которыхпроисходитсобытие A свероятностьюp, либо
с вероятностью1-p.Вероятностноепространство
В этом примере-алгебройявляется множествовсех подмножествпространстваэлементарныхсобытий. Введеннуюнами случайнуювеличину x поопределениюможно задать:
- верхняя строчка- это совокупностьвозможныхчисловых значений,которые можетприниматьслучайнаявеличина;
- нижняя строчка- вероятностьнаступленияэтих числовыхзначений.
Практическиво всех задачахестествознанияотсутствуетпромежуточныйэтап: испытание, - пространствовсех возможныхисходов испытания,
-числовая скалярнаяфункция, элементыкоторой w.На самом делеструктура:
- испытание;
- исход испытания;
- число на числовойоси.
Математическиможиданиемслучайнойвеличины X называетсячисло вида
xi - все возможныеразличныеконкретныеисходы испытания;
pi - вероятностиих наступления.
Математическоеожидание являетсякак бы аналогомцентра массточечной механическойсистемы:
Как центр масс:
Смысл характеристикимат.ожиданиязаключаетсяв следующем:это точка начисловой оси,относительнокоторой группируютсярезультатыконкретныхиспытаний наддискретнойслучайнойвеличиной.
1. MC=C
2. MCX=CMX
Построим таблицудля случайнойвеличины CX:
по определениюматематическогоожидания:
3. M(X+a)=MX+a, a=const
Построим таблицудля случайнойвеличины x+a
Доказать следствие
4. M(aX+b)=aMX+b, где a, b - константы
Пусть случайнаявеличина Y являетсяфункцией f(x) отслучайнойвеличины X. Построимвероятностноепространствослучайнойвеличины Y.
Верхняя строчкаявляетсяпространствомэлементарныхсобытий дляслучайнойвеличины Y. Впротивномслучае верхняястрочка являетсяпространствомэлементарныхсобытий длявеличины Y.
Все одинаковыечисла в верхнейстрочке заменяетсяодним, вероятностьнаступлениякоторого равнасумме соответствующихвероятностей.
Следствие.
Математическоеожиданиеслучайнойвеличины Y равняется:
Начальныммоментом К-гопорядка случайнойвеличины X называетсяматематическоеожидание случайнойвеличины Xk.
Центрированнаяслучайнаявеличина - этовеличина, равнаяX’=X-MX
Покажем, чтоматематическоеожидание MX’равно 0.
Центральныммоментом К-гопорядка называетсяначальныймомент К-гопорядка случайнойвеличины X’
при решенииреальных задачпрактическиевероятностирi неизвестны,но считая, чтовероятность- это частость,при большомчисле испытаний
Дисперсиейслучайнойвеличины X,называетсяцентральныймомент второгопорядка случайнойвеличины X.
Дисперсияявляется меройконцентрациирезультатовконкретныхиспытаний надслучайнойвеличиной X.
Свойства.
1. Чем меньшедисперсия, темболее тесногруппируютсярезультатыконкретныхиспытанийотносительноматематическогоожидания.
Пусть дисперсиямала, тогдамало каждоеслагаемое суммы(xi-)2pi.Тогда для , xiкоторое помодулю резкоотличаетсяот математическогоожидания ,pi - мало. Следовательно,большую вероятностьнаступлениямогут иметьлишь те xi, которыепо модулю малоотличаютсяот математическогоожидания.
2. Если дисперсияравна 0, то X - const.
3.
D(X+C)=DX
Y=X+C
Y’=Y-MY=X+C-M(X+C)=X+C-MX-C=X-MX=X’
DY=M(Y’)2=M(X’)2=DX
4.
DCX=C2DX
Y=CX
DY= M(Y’)2=M(Y’)2
Y’=Y-MY=CX-MCX=CX-MCX=C(X-MX)=CX’
DY= M(Y’)2=M(CX’)2=C2M(X’)2=C2DX
5.
Построим функциюраспределениядля дискретнойслучайнойвеличины. Дляудобства договоримся,что случайныевеличинырасполагаютсяв порядкевозрастания.
т.е. по определениюдля любогодействительногоX, F(x) численноравно вероятностинаступленияследующегособытия: в результатеиспытаний надX оно принялозначение строгоменьше x.
Характеристическойфункцией случайнойвеличины X называетсяфункция действительногоаргумента вида
Производящейфункцией называетсяскалярнаяфункция вида:
Свойства производящейфункции
1.
2.
3. Разложениепроизводящейфункции в рядМаклорена имеетвид
Формула Тейлораимеет вид
при to=0 она носитназвание формулыМаклорена
Пример:
Рассмотримслучайнуювеличину,распределеннуюпо биноминальномузакону распределения:
Найдем производящуюфункцию:
Найти DX и MX
Проведенанеограниченнобольшая серияиспытаний, врезультатекаждого испытанияслучайнымобразом появляетсяточка на числовойоси. Случайноераспределениеточек на числовойоси удовлетворяетследующим тремсвойствам.
1. Стационарность.Вероятностьтого, что наотрезок даннойдлины попадаетданное количествоточек определяетсятолько длинойэтого отрезкаи не зависитот расположенияэтого отрезкана числовойоси.
2. Ординарность.Вероятностьтого, что надостаточномалый отрезокдлины xпопадает однаточка, являетсябесконечномалой xпорядка. Вероятностьтого, что наэтот отрезокпопадает более,чем одна точка,является бесконечномалой болеевысокого порядка,чем x.
3. Свойство безпоследействия.Вероятностьтого, что наданный отрезокпопало определенноеколичествоточек не зависитот того, сколькоточек в результатепроведеннойбесконечносерии испытанийпопало на отрезок,не пересекающийсяс данным.
Найти вероятностьтого, что наданный отрезокдлина l попадаетm точек.
Обозначим черезxl - случайнаявеличина, равнаячисленноститочек, выпавшихна отрезокдлины l.
На числовойоси рассмотримотрезок длины1 и обозначим:
MX1=
Математическоеожидание числаточек, попавшихна отрезокдлины 1. По свойствустационарностиl одинаково длявсех отрезков.
MX1=ll - доказать
Пусть l - целоечисло. Разобьемотрезок длиныl на l отрезковединой длины.Тогда количествоточек, попавшихна отрезокдлины l будетравно числуточек, попавшихна каждый изнепересекающихсяотрезков длины1 (тут использовалосьсвойствобеспоследействия).
Используяформулу
имеем
MX1=ll
Математическоеожидание числаточек, попавшиена отрезокдлины l равномат. ожиданийточек, попавшихна непересекающиесяотрезки. Пустьl - не целое число.Выделяем целуючасть. Тогда
На числовойоси рассмотримотрезок длиныl, разобьем егона n отрезковданной длины
такой, что позволитиспользоватьсвойствоординарности.Тогда с определеннойпогрешностью,которая темменьше, чембольше n можносчитать
т.е. на отрезокдлины xпопадает неболее, чем однаточка, тогда
Для достаточногомалого отрезкадлины lxвероятностьпопадания внего однойточки x,а вероятностьтого, что ничегоне произойдет1- x.
В сделанныхпредположенияхm точек попадаетна отрезокдлины l тольков одном случае,когда в m отрезкахпопадает поодной точке.Тогда на основании3-го свойстваискомая вероятностьравна
Точную вероятностьполучим путемпредельногоперехода причисле разделенийотрезка
Тут мы разложили
в ряд Маклорена.Найдем производящуюфункцию распределенияПуассона
Найти MX и DX
Рассматриваетсяобычная схемабиноминальногораспределения,в котором n - велико,а p - достаточномало. Тогдаточная формуладля вероятностипоявлениясобытия A в mиспытанияхимеет вид
Эта формулапри большихn вычисляетсясложно. Такуювероятностьзаменяют приближенной
Для найденногоa построимгипотетическийряд вероятностей
Предполагается,что для достаточнобольших n и малыхp искомая вероятность
является членомпостроенногогипотетическогоряда вероятностей,а во вторыхнаходится вмалой окрестностипредельногозначения этогоряда. И, следовательно,это значениеможно взятьв качестведопустимойхорошей аппроксимациизначений искомойвероятности.
Будем рассматриватьпространствоэлементарныхсобытий каксовокупностьвсех точекчисловой оси.В этом случаевведенная ранеефункция распределенияимеет вид:
.Пусть функцияраспределенияявляется непрерывной.Найдем вероятностьтого, что врезультатеиспытанийслучайнаявеличина X приметзначение a, гдеa - произвольноедействительноечисло.
P(X=a).
Рассмотримнеравенство:
Доказать самим.
Следовательно:
Мы впервыестолкнулисьс ситуацией,когда событиепринципиальноможет произойтив результатеиспытания, ноимеет вероятностьравную 0 . В инженерномтолкованииэто означает:в данной конечнойсерии испытанийданное событиеникогда непроизойдет.
Случайнаявеличина X называетсянепрерывной,если ее пространствомэлементарныхсобытий являетсявся числоваяось (либо отрезок(отрезки) числовойоси), а вероятностьнаступлениялюбого элементарногособытия равнанулю.
P(aЈXЈXЈb)=F(b)-F(a)
Если от сложногособытия вычестьконечное либосчетное множество,вероятностьнаступлениянового событияостанетсянеизменной.
Функция f(x) - числоваяскалярнаяфункция действительногоаргумента xназываетсяплотностьювероятности,и существуетв точке x, еслив этой точкесуществуетпредел:
Плотностьвероятностиявляетсянеотрицательнойфункцией.
Следствие: Еслипространствомэлементарныхсобытий являетсяотрезок числовойоси, то пространствоэлементарныхсобытий формальноможно распространитьна всю числовуюось, положиввне отрезказначение плотностивероятностиравное 0.
Пример:
Равномерноераспределение.
тут p(x)=f(x).т.к.
Экспоненциальноераспределение.
Непрерывнаяслучайнаявеличина являетсяматематическойабстракциейи в чистом видена практикене встречается,хотя бы потому,что теоретическине может существоватьизмерительноеустройство,вычисляющееэто величину.Следовательно,всегда исследовательимеет дело сослучайнымидискретнымивеличинами.На практикеотрезок [a, b] разбиваютна отрезкиодинаковойдлинны, длинуустремляютк нулю. При этомx принадлежитотрезку. Вероятностьтого, что отрезоксодержит x равна
.При ситуация эквивалентнаследующему:имеется бесконечноемножестволотерейныхбилетов, одинваш. Ясно, чтов конечнойсерии розыгрышейвы никогда невыиграете.Независимоот этого великоудобство работыс непрерывнымивеличинами.Оно заключаетсяв том, что вероятностныесвойства задаютсяодной из двухфункций - плотностьюраспределениялибо плотностьювероятности.Пусть имеетсяслучайнаявеличина, являющаясяфункцией отнепрерывнойслучайнойвеличины X.
Y=x(x)
Математическиможиданиемнепрерывнойслучайнойвеличены являетсячисло:
, -плотностьвероятностислучайнойвеличины.Обоснованиеэтой формулы.
Аппроксимируемнепрерывнуюслучайнуювеличину Y случайнойвеличены Y*,которая являетсядискретной.Пусть числоваяось - пространствоэлементарныхсобытий случайнойвеличены X, разобьемвсю числовуюось на отрезкидостаточномалой длины.
2n отрезков.
Если в результатеиспытанияслучайнаявеличена X попалав отрезок сначальнойвершиной xi,то случайнаявеличена X*приняла значениеx(xi) с точностьюдо бесконечномалой Dx- длины i-го отрезка.Вероятностьтого, что Y*примет значениеx(xi) с точностьюдо бесконечномалой болеевысокого порядка,чем Dx, темболее точноY* аппроксимируетY.
Вероятностьнаступленияx(xi) дляY* равна
,при этасумма переходитв .Тогда
.Самим показать,что все свойствамат. ожиданиядля дискретнойслучайнойвеличены сохраняютсядля непрерывнойслучайнойвеличены.
Доказать,что
Доказать самим,что свойство1 и 2 для производящейфункции в дискретномслучае справедливыи для непрерывного.
Случайнаявеличина имеетнормальноераспределение(распределениеГаусса) и называетсянормальнораспределенной,если ее плотностьвероятности
Из определения
функция распределения
Найдем выражениедля производящейфункции нормальногораспределения
=1 (интегралЭйлера)
Изобразимпримерный видплотности
Рассмотримцентрированнуюнормальнуювеличину, т.е.MX=0
У центральнойнормированнойвеличины всенечетные начальныемоменты равны0
Функцией Лапласаназываетсяфункция вида
Свойства:
1) при z>0 функцияЛапласа определяетвероятностьпопаданиянормальнойслучайнойвеличины спараметрами
MX=0
DX=1
в интервале(0, z)
2)
3)
- функция нечетнаяИногда в литературевстречаютсядва вида функцийЛапласа
Функция Лапласатабулирована.Функция Лапласаиспользуетсядля выполнениясобытий вида
для произвольныхнормальныхвеличин.
Найдем вероятностьтого, что врезультатеиспытания надx произойдетсложное событие:x примет числовоезначение,принадлежащееотрезку с концами(a, b).
Пример.
x - случайнаявеличина.
f(x) - плотностьвероятности.
Найти плотностьвероятностиg(n) случайнойвеличины H.
Рассмотримотрезок (h, h+dh). Событиюпопадание H вотрезок (h, h+dh) всилу однозначностифункции h(x) соответствуетпопадание x вотрезок (x, x+dx). Приэтом вероятностинаступлениятакого событияодинаковы:
Тогда построимфункцию h(x), обратнуюx(h), x=x(h).
т.к.
Вероятностьпервого событияравна
Вероятностьвторого события
Следовательно
Рассмотримслучайнуювеличину X сконечным мат.ожиданием идисперсией
Для любогонеотрицательногочисла t вероятностьнаступлениясобытия
Пусть Z - непрерывнаяслучайнаявеличина сплотностьювероятностиf(Z). Пространствособытий величиныZ (0; ). Тогдаимеет местонеравенство
Доказать неравенства
Рассмотримдва сложныхсобытия
a - произвольноедействительноечисло.
Показать самим,что x - удовлетворяети одному и другомунеравенству.
Тогда
справедливоВ данном случае
Равномерностьнеравенствпри >0
или, в частности,при a==MX
при =tсправедливонеравенствоЧебышева.
Инженернаяинтерпретация.
Проводитсяиспытание. Врезультатеиспытанияфиксируетсяm числовых значенийX1, X2, ...,Xm. Исходиспытанияслучайный.
Пример: Испытание- реализациянекоторойтехнологиивыпуска продукта.Исход - численноезначение mхарактеристик,оценив которыемы оценим качествопродукта.
Т.к. в процессереализациитехнологиина технологиюдействуютслучайныефакторы, торезультатиспытаниянеоднозначен.
Имеется вероятностноепространство:(W, s,P). Зададим m числовыхизмеримыхскалярныхфункций x1(w),..., xm(w).Каждая из этихфункций являетсяодномернойпо определению.Возьмем m произвольныхдействительныхчисел и рассмотримсобытие A.
Очевидно, чтособытие A являетсяпересечениемсобытий Ai вида:
Т.к. каждоеAiОs-алгебре,то и AМs-алгебре.Следовательно,существуетвероятностьнаступлениясобытия A исуществуетчисловая скалярнаяфункция m действительныхаргументов,которая определенадля всех значенийсвоих аргументови численноравна вероятностинаступлениясобытия A.
F(x1, x2, ...,xm)=P(A)
Это m-мернаяфункция распределенияm-мерной случайнойвеличены.
Свойствамногомерногораспределения:
Значениефункции призначении хотябы одного ееаргументаравного -Ґ,равно 0, каквероятностьневозможногособытия.
Значениефункции, привсех значенияхее аргументовравных +Ґ,равно 1, каквероятностьдостоверногособытия.
Функцияне убывает полюбой совокупностиее аргументов.
Функциянепрерывнапочти всюду(для инженернойпрактики этоозначает, чтона конечном,либо счетноммножествеаргументовона может иметьскачки 1-го рода).
Рассмотримарифметическоепространство
и зададимполуинтервалывида:Доказать самим,что P(B) существует,и образ этогомножествапринадлежитs-алгебрепо w.
Можно доказать,что:
Т.о. многомернаяфункция распределенияпозволяет вm-мерном арифметическомпространствезадать счетно-аддитивнуюмеру - функциюна поле, порожденномувсеми m-мернымиполуинтерваламиобъема ("i,ai№bi).Тогда построимминимальнуюs-алгебруна этом поле,которая называетсяборелевскимполем (алгеброй)в m-мерном арифметическомпространстве.Любая скалярнаяфункция m-аргументовудовлетворяетвсем свойствам,приведеннымдля m-мернойфункции распределенияи однозначнозадает вероятностноепространствовида:
Таким образом,для инженерногоисследованиязадача свеласьк следующему:пространствоэлементарныхсобытий - этоm-мерное арифметическоепространство.По результатамстатистическихиспытаний нужнооценить m-мернуюфункцию распределенияF(x1, x2, ...,xm). Рассмотримчисловую скалярнуюфункцию m действительныхаргументов.g(x1, x2, ...,xm). Функцияg(x1, x2, ...,xm) называется борелевской,если для любогоBМb в одномерномарифметическомпространствесоответствующая
.Тогда справедливатеорема, доказательствокоторой полностьюповторяетдоказательствов одномерномслучае. Скалярнаяфункция -является измеримойскалярнойфункцией - случайнойвеличиной.Рассмотримиспытание,результатомкоторого являетсяпоявление двухчисел из некоторогоконечного либосчетного множествапар чисел. Этоиспытаниефизически можетбыть однимиспытанием(мгновенноеизмерениеприбором величенытока и напряженияв сети), а такжеможет бытькомпозициейдвух испытаний,каждое из которыхпорождаетодномернуюдискретнуювеличину. Условнодвумернаядискретнаяслучайнаявеличина обозначаетсякак XY, либо любыедве буквы латинскогоалфавита, либодля: X:{x1, x2, ...,xs},Y:{y1, y2, ...,yn}, проводяиспытание наддвумернойслучайнойвеличинойнаходят одноиз чисел из Xлибо из Y. А вероятностноепространстводвумернойслучайнойвеличены формальностроится так:
Двумернойслучайнойвеличинойназываетсясистема из двуходномерныхслучайныхвеличин X, Y, гдекак X, так и Y являютсядискретнымислучайнымивеличинами.В пространствеэлементарныхсобытий дискретнойслучайнойвеличены XY определимсложное событиеA: В результатеиспытания наддвумернойслучайнойвеличиной XY,случайнаявеличина X принялазначение xi,случайнаявеличина Y - любоезначение.
Вводим сложноесобытие B: Врезультатеиспытания наддвумернойслучайнойвеличиной XY,случайнаявеличина Y принялазначение yj.
Найдем условнуювероятность:
Аналогично:
Покажем чтосумма условныхвероятностей:
;Условнымматематическиможиданиемявляется выражение:
;Условнойдисперсиейназываетсявыражение:
; .Условное мат.ожидание идисперсияотличаютсяот безусловнойтолько тем, чтов их определенииподставляетсяусловная вероятностьвместо безусловной.
Условное мат.ожидание случайнойвеличены, приусловии, чтодругая случайнаявеличена принялазаданное значениеопределяетчисло-точку,относительнокоторой группируютсярезультатыконкретныхиспытаний надодной случайнойвеличиной, приусловии, чтов этом испытании(над двумернойслучайнойвеличиной XY)вторая случайнаявеличена принялазаданноефиксированноезначение.
Условная дисперсияопределяетстепень концентрациирезультатовконкретныхиспытаний надодной случайнойвеличинойотносительноусловного мат.ожидания.
При решениипрактическихзадач условноемат ожиданиеи условнаядисперсияобычно используютсяв следующемслучае: проводятиспытание надX и Y, исследовательимеет возможностьизмерять результатыиспытания надодной случайнойвеличиной,измерениедругой недоступно.Если условныедисперсии малы,то в качественеизвестногозначения неизмеряемойслучайнойвеличены, которуюона принялав результатеиспытания,можно братьмат. ожидание.
Двумернаяслучайнаявеличина называетсянепрерывнойслучайнойвеличиной, еслипространствомее элементарныхсобытий являетсяплоскость, либообласть плоскости,либо областьконечной ненулевойплоскости.Очевидно чтоX и Y являютсяодномерныминепрерывнымислучайнымивеличинами.
Следствиемэтого определенияявляется следующее:любое сложноесобытие размерности1 (произвольнаякривая, принадлежащаяпространствуэлементарныхсобытий) имеетнулевую вероятностьт.к. в противномслучае вероятностьдостоверногособытия никогдабы не равняласьединице. Числоваяскалярнаяфункция двухдействительныхаргументовназываетсядвумернойплотностьювероятности,двумернойслучайнойвеличины XY, еслидля фиксированныхзначений своихаргументовона выполняетравенство
.Приведенноездесь определениеявляется аналогичнымопределениюодномернойплотностивероятности.Ниже будетвыведено условиесуществованияплотностивероятностидля фиксированныхx, y.
Рассмотримпроизвольнуюобласть G.
Разобьем областьG на множествопрямоугольников,покрывающихобласть G. Тогдана основании3-й аксиомы теориивероятностиимеем: вероятностьискомого событияравна:
.Точное выражениеполучим перейдяк пределу: (показать самим).Числовая скалярнаяфункция двухдействительныхаргументовназываетсядвумернойфункциейраспределения,если она прификсированномчисле своихаргументовчисленно равнавероятностинаступленияFx,y(x,y)=P(XЈx,YЈy), еслиX, y - непрерывныеслучайныевеличины, тозначение функциираспределенияне изменится.
Доказать:
По определениювторой смешаннойпроизводной.
B
Найдем по двумернойплотностиодномерныеплотностислучайныхвеличин X и Y.
Т.к. полученноеравенство вернодля всех х, топодинтегральные выражение
аналогично
В математическойтеории вероятностивводится какбазовая формула(1) ибо предлагается,что плотностьвероятностикак аналитическаяфункция можетне существовать.Но т.к. в нашемкурсе мы исследуемтолько 2 конструкции- дискретныеили непрерывные,то для них полученныеформулы эквивалентныи не имеет смыслакакую-то из нихвводить какпервичную.
Найдем плотностьвероятностислучайнойвеличины Y приусловии, чтов результатеиспытания надслучайнойвеличиной XY ,X приняло значениех.
Обозначим
тут мы использоваливторое определениеодномернойплотности.
В качествеусловной плотностивероятностииспользуетсяследующеевыражение
Обоснованиевыражения дляусловной плотностивероятности
Выведем выражениедля
Обозначим
Условное мат.ожидание идисперсия линиирегрессии -зависимостьY от X, выраженнаяв изменениисредних значенийY при переходеx от одного значенияк другому. Найдемматематическоеожидание MZ, где
Двумернаядискретнаяслучайнаявеличина называетсяслучайнойвеличиной снезависимымикомпонентами,если
Показать самим,что справедливо
Доказать самим,что если испытание,исходом которогоявляется парачисел
является композициейдвух независимыхиспытаний, тослучайныевеличины X Yнезависимы.Непрерывнымислучайнымивеличинамис независимымикомпонентаминазываютсяесли:
Непрерывнаядвумернаяслучайнаявеличина имеетнезависимыеслучайныекомпоненты,если
или
Покажем, чтовторое эквивалентнопервому.
Покажем, чтоесли двумернаянепрерывнаяслучайнаявеличина XY порожденакомпозициейнезависимыхиспытаний, тоX и Y независимы.
В силу определениянезависимыхиспытаний вкомпозиционномпространстве
В силу определениянезависимыхиспытаний вкомпозиционномпространствеA и B независимы.
Следовательно:
Это система,состоящая изm дискретныходномерныхслучайныхвеличин. Всюарифметикупроделатьсамостоятельно.
Система из mодномерныхнепрерывныхслучайныхвеличин, у которойпространствомэлементарныхсобытий являетсяm-мерное арифметическоепространстволибо его область,имеющая ненулевойобъем.
m-мерная плотностьвероятностиудовлетворяетвыражению
m-мерной функциейраспределенияназываетсячисловая скалярнаяфункция m действительныхаргументов,которая численноравна:
Случайныевеличины x1,x2, ... xm независимы,если
Доказать, чтоесли m-мернаяслучайнаявеличина порожденакомпозициейm-мерных испытаний,то событиянезависимы.
Запишем аналогформул
для многомерногослучая.
Для полученияплотностивероятности
необходимоn-мерную плотностьпроинтегрироватьв бесконечныхпределах попеременным,которые соответствуютслучайнымвеличинам, невходящим вНайдем плотностьn-мерной случайнойвеличины.
XY
Числовая скалярнаяфункция
является одномернойдискретнойслучайнойвеличиной, соследующимотличием отобычногопредставления:для того, чтобыв испытанииполучить реализацию
необходимопровести испытаниенад двумернойслучайнойвеличиной XY,зафиксироватьее результатxi,yi и подставитьв . Полученноечисло и естьреализацияслучайнойвеличины .Таблица случайнойвеличины строитсяпо таблице
Случайнуювеличину
аппроксимируемдискретной по следующемуправилу:пространствоэлементарныхсобытий XY представимв виде совокупностипрямоугольниковс вершинами
,если в результатеиспытания XYпопало в прямоугольник(i,j), то эта случайнаявеличина принялазначение .Вероятностьнаступленияэтого событияравна:точное значениемат. ожидания
Найдем
Вероятностноепространствозададим в виде
Тогда
Теорема 1.Математическоеожидание суммыслучайныхвеличин равносумме математическихожиданий
а) дискретныйслучай
б) непрерывныйслучай
Пусть n-произвольноечисло
Теорема 2.Математическоеожидание произведениянезависимыхслучайныхвеличин равнопроизведениюмат.ожиданий.
По определениюимеем
т.к. случайныевеличины X и Yнезависимы,тоКоэффициентомковариацииназываетсявыражение
Эта формулаверна, т.к. вернаследующаяформула.
Пусть
тогда
Если случайныевеличины XYнезависимы,то их коэффициентковариацииравен нулю,обратное вобщем случаеневерно.
Пример.
X - случайнаявеличина, имеющаянормальноераспределениес нулевыммат.ожиданием
Y=X2 (Y и X связаныфункционально).
Найдем
Случайнаявеличина
называетсянормированнойслучайнойвеличиной, еемат.ожиданиеравно 0, а дисперсия-1.Коэффициентомкорреляциислучайныхвеличин X и Y - эточисло
Следствие:
Если X и Y независимы,то коэффициентковариацииравен 0, то
Доказать, если
независимы,то1.
По определению
т.к.
всегда неотрицательна,то2. Если
,то с вероятность1 X и Y связанылинейно.РассмотримX*-Y*, отсюда M(X*-Y*)=0.
Если X и Y дискретныеслучайныевеличины, идисперсия равна0, то их сумма(разность) являетсяпостоянной
Пусть X и Y непрерывныеслучайныевеличины, тов соответствиис неравенствомЧебышева
т.к.
Это неравенствои обозначает,что с вероятностью1
откуда y=ax+b, где
Если коэффициенткорреляции
,то результатыопыта лежатна прямойВ общем случаеY можно представитьв виде
Коэффициенткорреляцииявляется меройблизости линейнойсвязи междуслучайнымивеличинамиX и Y: чем ближекоэффициенткорреляциипо модулю к 1,тем более теснорезультатыконкретногоиспытания надX и Y соотносятсяс прямой ax+b.
Дискретныйслучай.
Пусть X и Y - дведискретныенезависимыевеличины данногоиспытания иZ=X+Y. Возможноезначение Z=z=x+yвсегда представляетсумму двухвозможныхзначений слагаемыхX=x и Y=y. По правилусложения
где суммированиераспространенона те пары, которыев сумме даютZ. В силу независимостиX и Y
Приняв во внимание,что y=z-x
последняя сумма
распространяетсяне на все значенияx, а только натакие, для которыхz-x равно одномуиз возможныхзначений y.Если условиться,что P(y=z-x)=0, если z-x непринадлежитк числу возможныхзначений Y, то
Аналогично
Формулы (1) и (2)определяюткомпозициювеличин X и Y.
Или
Непрерывныйслучай.
Пусть X и Y независимыенепрерывныеслучайныевеличины. Пустьf(x,y) - двумернаяплотностьвероятностидвумернойслучайнойвеличины XY.Плотностьсовместногораспределенияf(x,y) в силу независимостиX и Y имеет вид
Рассмотримфункцию распределенияслучайнойвеличины Z.
Для того, чтобыимело местособытие
действительноечисло необходимои достаточно,чтобы случайнаяточка Q(x,y) попалав область 1.Тогда эта вероятностьравна
Дифференцируяпод знакоминтеграла
Двумернаяслучайнаявеличина XYраспределенанормально, еслиее плотностьвероятностиf(x,y) имеет вид
1.
2.
т.е. X и Y имеетодномерноенормальноераспределение.
Сделаем подстановку
тут мы для краткостиобозначили
Прибавляя ивычитая в показателестепени по e по
Сделаем подстановку
3.
то X и Y независимыеслучайныевеличины, топлотностьвероятностидвумернаяраспадаетсяна произведениеодномерныхНайдем условнуюплотностьвероятности
Подставляяв полученноевыражениезначения
и получаемВывод: условнаяплотностьвероятностиоказалосьнормальнойс мат. ожиданием
и дисперсией,постоянной
n-мерная непрерывнаяслучайнаявеличина имеетнормальноераспределение,если ее многомернаяплотностьвероятностив матричномвиде
Показать, чтоформула
в двумерномслучае переходитв
для n=2 находим
Показательстепени приe
Найдем обратнуюматрицу матрицеВ
Проводимнепосредственноедоказательство
B - ковариационнаяматрица
Показать, чтоэта формулав двумерномслучае совпадаетс выражением,рассмотренномранее.
Свойства n-мерногонормальногораспределения.
- определительматрицы B - неотрицательноечисло.По критериюСильвестрова,если
то все главныеминоры матрицыB неотрицательныеи определительматрицы B неотрицателен.Все одномерныеплотностивероятности- это плотностивероятностиодномернойнормальнойслучайнойвеличины спараметрами,определяемымикоординатамивектора X и главнойдиагональюковариационнойматрицы B. Крометого, подвекторвектора
изk элементов,где такжераспределеннормально.Если всекоэффициентыкорреляционнойили ковариационнойматрицы B (всеее недиагональныеэлементы) равнынулю, то показатьсамим, что компонентыслучайнойвеличины являютсянезависимыми.
если
,томногомернаяплотностьраспадаетсяна произведениеодномерных,значит независимы.Теорема.
ПроводимлинейноепреобразованиеY=AX. A - квадратнаяневырожденнаяматрица, тогдавектор Y такжеимеет n-мерноенормальноераспределениевида
Следствие:Из доказательстватеоремы вытекает,что ковариационнаяматрица
ОператорA переводитпроизвольнуюобласть изарифметическогопространстваRn внекоторуюобласть тогоже пространства.
Рассмотримпроизвольнуюобласть S,принадлежащуюпространствуэлементарныхсобытий случайноймногомернойвеличины X. Ейсоответствуетобласть D впространствеэлементарныхсобытий случайноговектора Y. Приэтом
Запишем этивероятности
где |I| - якобианперехода
Т.к. областьS и соответственноD произвольны,то плотностьвероятностислучайноговектора x равна
n-мернаяплотностьвероятностислучайноговектора Y равна
Преобразуемпоказательстепени e
Можно показать,что если нормальноераспределениеимеет данныйвид, то B - еековариационнаяматрица
Следствие.
-многомерныйнормальныйвектор. A - прямоугольнаяматрица Тогда Y=AX имеетнормальноераспределениевидаY - m-мерныйвектор.
Для определенностиположим, чтоматрица Aимеет вид
A = (A1 A2)
A1 -квадратнаяматрица размером
A2 -матрица размерности
Рассмотримматрицу размерности
.Считается, чтоm первых столбцовнезависимы. равен определителюполученнойквадратнойматрицы и неравен нулю.E - единственнаяквадратнаяматрица размерности
Следовательно,на основаниидоказаннойтеоремы, векторY имеетмногомерноенормальноераспределение.
Z=CX
Компонентывектора Zимеют вид
Пусть матрица А произвольная,но т.к. ее рангравен m онасодержит m линейнонезависимыхстолбцов. Путемперестановки столбцом соберемэти столбцыв первые m. Исоответствующимобразом пронумеруемкомпонентывектора Х. Попадаемв предыдущийслучай.
Рассмотримвероятностноепространство
в котором заданасчетная последовательностьслучайныхвеличин, каждаяиз которыхявляется измеримойПокажем,что событие
измеримо, т.е.имеет вероятностьнаступления.ДействительнособытиеКаждое изэтих событийв пересечениипринадлежит
-алгебре. Поопределению -алгебры ейпринадлежити счетноеперечислениеэтих событий,таким образомсобытие имеетвероятностьнаступления.Пустьпоследовательность
имеет пределпри ,который можетбыть постояннойили случайнойвеличиной. Втеории вероятностиэтот пределпонимают следующимобразом: подсходимостьюпоследовательностик пределу понимаютсобытие А котороеможет задаватьсяследующимобразом:1.
СобытиеА состоит извсех m,удовлетворяющихусловию: длялюбого какугодно большогоr существуеттакое m, что длявсех n выполняется
2. А: Если предел
,тоДля любого,как угоднобольшого rсуществуеттакое m, что длявсех n выполняется
3.Если пределслучайнаявеличина, то
Показатьсамим, чтособытие А с
-алгебре иследовательноимеет вероятностьнаступлениялюбое событие
измеримо, какдоказывалосьранее измеримы, иследовательноимеет вероятностьнаступления.Разность -алгебре.Следовательнособытие А имеетвероятностьнаступления.Если пределконстанта, тоэквиваленты1 и 2, если случайнаявеличина - то1 и 3.
Пусть имеетсясчетная последовательностьслучайныхвеличин и пусть
пределпоследовательности.1. Счетнаяпоследовательностьсходится кпределу свероятностью1, если Р(А)=1.
Это не вероятностьдостоверногособытия.
2. Сходимостьпо поверхности.
Счетнаяпоследовательностьслучайныхвеличин
сходитсяк поповерхности,если3. Сходимостьв среднеквадратичном.
Последовательностьслучайныхвеличин сходитсяк пределу всреднеквадратичном,если выполняется
Покажем, чтоиз сходимостив среднеквадратичномследует сходимостьпо вероятности.
ВоспользуемсяНеравенствомЧебышева
При любомконечном rесли выполняетсясходимостьв среднеквадратичном,то этот пределсуществуети равен 0, т.к.числительсходится к 0, азнаменательконечен.
Теорема.
Счетнаяпоследовательность
сходитсяк пределу с вероятностью1 только тогда,когдаУказанноевыше событие
имеетсвоим дополнениемсобытиеи сходимостьс вероятностью1 означает, чтоP(B)=0.
Очевидно,что условиетеоремы достаточнорассмотретьдля
.Положим
СобытияВrm,m=1,2,.... убывают, идля
Докажем это.
Будем искатьP(Br) так
Событие,обратное
имеет следующуюструктуру:Показать самим,что следующеесобытие включаетпредыдущее.
По построениюсправедливаследующаяформула
По третьейаксиоме теориивероятности
Построенныйряд D1,D2...Dnобразует неубывающуюограниченнуюпоследовательность,следовательноимеет пределсверху.
Поэтому возможенпереход
Рассмотримсистему независимыхиспытанийБернулли.
Системаиспытанийнеограниченна.С каждым i-видомиспытанийсвяжем дискретнуювеличину Xi
Хiпринимаютзначения 1, еслив i-том испытаниипроизошлособытие А и 0 -в противномслучае
Рассмотримслучайнуювеличину
- число появленийсобытия А в nиспытанияхРассмотримслучайнуювеличину
Это частостьнаступлениясобытия А в nиспытаниях
ИспользуемнеравенствоЧебышева
где e -произвольноенеотрицательноечисло
Рассмотрим
Получена теоремаБернулли.
Частостьнаступленияпроизвольногособытия причисле испытанийстремящемсяк бесконечностипо вероятностисходится ктеоретическойвероятностинаступлениясобытия.
Обоснованиетого, что
- частостьнаступлениясобытия A заключаетсяв следующем:с тоски зренияранее приведенногоопределения,независимымиспытаниямэквивалентныдве схемы:проведениеn раз одного итого же испытания
проведениеn независимыхиспытаний надn копиями одногои того же.
Аналогия: 100 размонету подбрасывает1 человек или100 человек подбрасываютпо одной монете.
Рассмотримнезависимые:одинаковораспределенныеслучайныевеличины X1,X2, ..., Xn с конечныммат. ожиданиеми дисперсией.
Рассмотримих среднееарифметическое
Используявспомогательноенеравенствополучим
получаем
При числеиспытаний,стремящихсяк среднее арифметическоепо вероятностисходится кматематическомуожиданию.
В любом университетскомучебнике доказываетсясходимостьс вероятностью1.
Пусть имеетсяодна случайнаявеличина X, надкоторой проведеноn испытаний.Результатыиспытаний
Тогда в силупримечания,сделанногоБернулли, этиn-чисел можносчитать результатомодного испытаниянад n-мернойслучайнойвеличиной, укоторой Xiнезависимыи распределеныкак X, т.е.
Тогда
является реализациейследующегоДля
справедливзакон большихчисел, следовательно является хорошейоценкой величиныX.Комплекснаяслучайнаявеличина Zопределяетсяс помощью двумернойслучайнойвеличины (X,Y)следующимвыражением
Операции надкомплекснымислучайнымивеличинамисовпадают соперацияминад комплекснымичислами.
Рассмотримскалярнуюфункцию случайныхаргументови числа i.
тогда в теориивероятностиматематическоеожидание случайнойвеличины вычисляетсяпо тем же формулам,что и
,просто i считаютпостояннымпараметром.Найдем мат.ожиданиеслучайнойвеличины Z.
1. Для комплекснойслучайнойвеличины справедливысвойства аддитивностии мультиплекативностимат.ожидания.
2. Комплексныеслучайныевеличины Z1и Z2 называютсянезависимыми,если независимымежду собойдвумерныеслучайныевеличины
,т.е. попарнонезависимыПусть Z1 и Z2независимыекомплексныеслучайныевеличины. Найдеммат.ожиданиепроизведения
3.
а) дискретныйслучай
б) непрерывныйслучай
Двумернаяслучайнаявеличина XY имеетплотностьвероятностиf(x,y).
Характеристическойфункциейдействительнойслучайнойвеличины X называетсяфункция
1. Для дискретногослучая
2. Для непрерывногослучая
Будем считать,что плотностьвероятностиf(x) существует,тогда
3.
Это свойствогарантирует,что характеристическаяфункция всегдасуществует
4. Пусть случайнаявеличина
y=ax+b
5. Характеристическаяфункция суммынезависимыхслучайныхвеличин равнапроизведениюхарактеристическихфункций.
Пусть
хi - независимы
Тогда
Отсюда
6. Если у случайнойвеличины Хконечен начальныймомент n-го порядка,то
а) для
- существуютк-е производныеи при этомб) имеет месторазложение
Для того, чтобыполученноеравенство былосправедливо,необходимодоказать, чтомы можем дифференцироватьпод знакоминтеграла.
Для доказательстваприведем рядфактов.
1. Аналог теоремыЛибега дляинтеграловРимана
Пусть функция
интегрируемапо Риману и привсех хсходимостьв каждой точкеизвестна.
Пусть при этом
- некотораяфункция, мажорирующаяданную. Пустьпри этом конеченинтегралт.е.
Тогда
2. Некоторыесвойства мат.ожиданийдействительнойслучайнойвеличины
1) Если х>0, то МХ>0- доказать самим
Дискретныйслучай
Введем случайнуювеличину
Аналогично
Очевидно, что
Следовательно
Тогда
Пара
может приниматьзначения:а) (-,+)в этом случаеговорится, чтоМХ не определено.
б) (-,)в этом случаеговорится, чтоМХ не ограничено.
в) (, ) MX=-
(, ) MX
Очевидно, что
Вывод:
Если MX конечно,то конечно иM/X/
MX, тоM/X/
Если MXk конечно,то конечно иM/Xk/
MXk, тоM/Xk/
3. Пусть
,тогда на основаниипункта 1.4. Имеет местоочевидноенеравенство
5. Пусть существует
,тогда для всехСумма интегралов
Возвращаемсяк доказательству.
Докажем формулу
Доказательствопроведем помат.индукции.
Проверяем приk=0
формула справедлива.
Пусть формуласправедливадля k
Рассмотрим.
Получили:
Покажем, чтоинтеграл
конечен.Если
,то и конечно. А конечно поусловию, тогдадляТаким образомможно применятьтеорему Либега.
Это мы доказалисправедливостьформулы
Доказательстворазложения- пункт б) являетсясправедливым,если при исследованииостаточногочлена учесть,что /i/