Модель авторегрессии в корреляционной теории
1. Принципы построения модели авторегрессии
В основу модели АР положена корреляция отсчета случайного процесса в текущий момент времени с некоторым конечным или бесконечным числом отсчетов в предыдущие моменты времени. Корреляционные связи позволяют осуществить регрессию текущего отсчета на предшествующие отсчеты.
Такой вид регрессии называется авторегрессией. В уравнении АР текущий отсчет представляется взвешенной суммой предыдущих с некоторыми коэффициентами веса
, (1)где
- коэффициенты АР, - некоррелированные случайные отсчеты, - порядок модели АР.Величина
, (2)называется предсказанием случайной величины
. Разность между текущим значением отсчета и его предсказанием называется ошибкой предсказания . (3)Величина
характеризует, по существу, максимальную точность предсказания текущего отсчета, а ее статистические свойства определяют выбор порядка модели АР.Из (1) видно, что построение АР модели случайного процесса сводится к нахождению коэффициентов АР и определению порядка
.Умножив правую и левую части (1) на
, а затем усреднив, можно получить систему уравнений , , (4a) , (4б)где
- значения функции корреляции случайного процесса - дисперсия ошибок предсказания модели АР, - дисперсия случайного процесса . Набор уравнений (4а) и (4б) называется полной системой уравнений Юла – Уокера.Решением этой системы являются коэффициенты АР и дисперсия ошибок предсказания. При выводе уравнений (4а) было учтено, что
, , , (5a) , , . (5б)Соотношения (5) следуют из некоррелированности ошибок предсказания
. Решение системы уравнений (4а) можно представить в матричном виде , (6a)где
Как видно из (4а), уравнение не изменится, если вместо
использовать нормированные значения функции корреляции , которые называются коэффициентами корреляции. Очевидно, что при этом параметры модели АР останутся прежними.Как следует из (6а, б), для первого порядка модели АР
. (7)Для модели АР второго порядка коэффициенты АР равны
, . (8)Отметим важное свойство коэффициентов АР, на котором основано использование моделей предсказания в качестве обеляющих фильтров. Коэффициенты АР, рассчитанные с помощью уравнений Юла-Уокера (4а) минимизируют дисперсию ошибки предсказания
. (9)В этом легко убедиться, продифференцировав (9) по
,и приравняв производную к нулю. При этом полученная система уравнений совпадает с (4а).Достоинством модели АР является ее конструктивность, заключающаяся в возможности синтеза довольно простым образом алгоритмов обработки случайных процессов.
На рис. 1 представлен АР фильтр предсказания (обеляющий фильтр), алгоритм действия которого описывается выражением (3). Он состоит из линий задержки, усилителей с коэффициентами усиления
, и сумматора.Ошибки предсказания на выходе этого фильтра будут отсчетами белого шума, а точнее некоррелированным процессом. Дисперсия ошибки предсказания на выходе фильтра будет иметь минимальное значение, если коэффициенты АР найдены из уравнения (4а).
Порядок процесса АР определяется с использованием различных критериев, как правило, основанных на минимизации некоторой теоретико-информационной функции. Для определения порядка модели пользуются методами Бартлетта, Акайке, Парзена.
Порядок модели можно находить из условия не убывания дисперсии ошибки предсказания при дальнейшем повышении порядка. Довольно эффективным методом определения порядка модели АР является метод, основанный на проверке близости корреляционной функции случайного процесса на выходе обеляющего АР фильтра к корреляционной функции белого шума.
Рисунок 1. АР фильтр предсказания
Процессы АР можно характеризовать конечным числом значений функции, определяемой корреляционной функцией.
Такая функция носит название частной автокорреляционной функции. Ее можно выразить через коэффициенты АР, порядок которых изменяется от единицы до
.Т.к. коэффициент АР с номером
полагается равным нулю, то процесс АР можно характеризовать конечным набором не равных нулю коэффициентов АР, с номером равным р для моделей АР с порядками от единицы до - , .Поэтому значения частной автокорреляционной функции полагаются равными
, . Можно показать, что первые три значения частной автокорреляционной функции описываются выражениями вида , , . (10)Достоинством частной автокорреляционной функции по сравнению с автокорреляционной функцией является ее конечная длина.
Как показал Бартлетт, значение частной автокорреляционной функции можно полагать равным нулю, если оно меньше
, где - длина реализации, по которой производилась оценка значений функции корреляции. Таким образом, по существу, производится оценка порядка модели АР.2. Спектр процесса авторегрессии
Формула для нахождения спектра модели АР лежит в основе параметрического спектрального оценивания.
Для ее вывода будем рассматривать процесс АР как реакцию формирующего фильтра
, на вход которого подаются некоррелированные отсчеты .