Здесь и в дальнейшем через
обозначена вероятность события, указанного в фигурных скобках.Для трех моментов времени
формула (3.1) принимает вид: ,…, .(3.2)Поэтому часто говорят, что характерное свойство марковских процессов состоит в следующем: если точно (если настоящее состояние
известно не точно, то будущее состояние марковского процесса будет зависеть от прошлых состояний) известно состояние марковского процесса в настоящий момент времени ( ), то будущее состояние (при ) не зависит от прошлого состояния (при ).В случае, если пространство состояний
, , …, марковского процесса является конечным или счетным, марковский процесс называется цепью Маркова. Если параметр принимает значения только в дискретном множестве, то цепь Маркова называется цепью с дискретным временем. Если же параметр принимает значения в некотором непрерывном множестве, то цепь Маркова называется цепью с непрерывным временем.Важным частным случаем цепи Маркова с непрерывным временем является так называемый процесс гибели и размножения.
Случайный процесс
, называется процессом гибели и размножения, если он удовлетворяет условиям:– пространство состояний процесса есть множество неотрицательных целых чисел (или некоторое его подмножество;
– время пребывания процесса в состоянии
имеет показательное распределение с параметром и не зависит от предыдущего поведения процесса;– после завершения пребывания процесса в состоянии
он переходит в состояние с вероятностью , и в состояние с вероятностью . Вероятность полагается равной 1.Состояние процесса
, в момент времени можно трактовать как размер некоторой популяции в этот момент времени. Переход из состояния в состояние трактуется как рождение нового члена популяции, а переход в состояние – как гибель члена популяции. Такая трактовка процесса и объясняет его название.В дальнейшем применительно к марковским процессам будем пользоваться следующими обозначениями:
, если пространство состояний (фазовое пространство) процесса непрерывно, и , если пространство состояний дискретно.Полумарковские процессы объединяют теорию цепей Маркова, разрывных марковских процессов и теорию восстановления. В соответствии с предложенной методикой анализа марковских процессов приведем определение полумарковского процесса.
Пусть поведение некоторой системы описывается следующим образом. В каждый момент времени система может находиться в одном из
возможных фазовых состояний , , …, , причем известны начальное состояние системы (в начальный момент времени она находиться в состоянии ) и одношаговые вероятности перехода , , . следовательно, процесс есть однородная цепь Маркова.Сопоставим каждому ненулевому элементу
матрицы вероятностей перехода случайную величину с функцией распределения . В теории массового обслуживания случайную величину обычно рассматривают как время пребывания системы в состоянии при условии, что следующим состоянием, в которое перейдет система, будет . При этом величина считается неотрицательной и непрерывной с плотностью вероятности . При такой интерпретации величину можно назвать временем ожидания в состоянии до перехода в .Представим, что точка, отображающая поведение системы на фазовой плоскости, остается в состоянии
в течении времени , прежде чем она прейдет в (рис. 3.1). По достижении «мгновенного» (в соответствии с матрицей вероятностей перехода ) выбирается следующее состояние , и после того как состояние выбрано, время ожидания в полагается равным с функцией распределения или плотностью вероятности .Этот процесс затем следует неограниченно продолжать, выбирая каждый раз независимо следующее состояние и время ожидания. Если через обозначить состояние системы, занятое в момент времени . То полученный случайный момент принято называть полумарковским.