Автокорреляция и ее устранение

Введение

Автокорреляция обычно встречается в регрессионном анализе при использовании данных временных рядов. Естественно, что при создании модели разработчик не в состоянии учесть все факторы, влияющие на зависимую переменную. Воздействию этих неучтенных факторов подвергается случайный член u уравнения регрессии. Для того, чтобы выполнялось третье условие Гаусса-Маркова, то есть cov(uk,ui)=0, при k ≠ j , необходимо, чтобы скрытые в u факторы тоже были некоррелированные со своими значениями в предыдущих наблюдениях.

Естественно, что в большинстве реальных экономических задач условие некоррелированности ошибок невыполнимо.

Наличие автокорреляции затрудняет применение ряда классических методов анализа временных рядов. В моделях регрессии, описывающих зависимости между случайными значениями взаимосвязанных величин, она снижает эффективность применения метода наименьших квадратов. Поэтому выработаны и применяются специальные статистические приемы для ее выявления и элиминирования, а также для модификации самого метода наименьших квадратов.

Данная работа посвящена автокорреляции и ее устранению.

Целью реферата является осветить вопросы, касающиеся понятия автокорреляции.

Задачами реферата являются:

раскрыть определение автокорреляции;

рассмотреть автокорреляцию первого порядка;

рассмотреть способы устранения автокорреляции.

1 Автокорреляция и ее устранение

До сих пор предполагалось, что значение случайного члена u в любом наблюдении определяется независимо от его значений во всех других наблюдениях, то есть предполагалось, что удовлетворено третье условие Гаусса – Маркова.

Автокорреляция – нарушение третьего условия Гаусса – Маркова, которое заключается в том, что случайные члены регрессии в разных наблюдениях являются зависимыми: cov(uk,ui) №_ 0, при k №_ i.

Последствия автокорреляции в некоторой степени сходны с последствиями гетероскедастичности. Коэффициенты регрессии остаются несмещенными, но становятся неэффективными, и их стандартные ошибки оцениваются неправильно (чаще всего они смещаются вниз, то есть занижаются).

Автокорреляция обычно встречается только в регрессионном анализе при использовании данных временных рядов. Случайный член u в уравнении регрессии подвергается воздействию тех переменных, влияющих на зависимую переменную, которые не включены в уравнение регрессии. Если значение u в любом наблюдении должно быть независимым от его значения в предыдущем наблюдении, то и значение любой переменной, “скрытой” в u, должно быть некоррелированным с ее значением в предыдущем наблюдении.

Положительная автокорреляция – ситуация, когда случайный член регрессии в следующем наблюдении ожидается того же знака, что и случайный член в настоящем наблюдении. Соответствует случаю

Постоянная направленность воздействия не включенных в уравнение переменных является наиболее частой причиной положительной автокорреляции — ее обычного для экономического анализа типа. Предположим, что оцениваем уравнение спроса на мороженое по ежемесячным данным и что состояние погоды является единственным важным фактором, “скрытым” в u. Вероятно, будет несколько последовательных наблюдений, когда теплая погода способствует увеличению спроса на мороженое u, таким образом, u положительно, и после этого — несколько последовательных наблюдений, когда ситуация складывается противоположным образом, после чего идет еще один ряд теплых месяцев.

Если доход постоянно возрастает со временем, схема наблюдений может быть такой, как показано в Приложении 1. При обозначении объема продаж мороженого через у и дохода через х имеет место трендовая зависимость, отражающая рост объема продаж: у =

х. Фактические наблюдения будут в основном сначала находиться выше линии регрессии, затем ниже ее и затем опять выше [7, C.36].

Изменения экономической конъюнктуры часто приводят к похожим результатам, особенно наглядным в макроэкономическом анализе, и в литературе о циклах деловой активности есть много таких примеров.

Здесь важно отметить, в частности, что автокорреляция в целом представляет тем более существенную проблему, чем меньше интервал между наблюдениями. Очевидно, что чем больше этот интервал, тем менее правдоподобно, что при переходе от одного наблюдения к другому характер влияния неучтенных переменных будет сохраняться.

Если в примере с мороженым наблюдения проводятся не ежемесячно, а ежегодно, то автокорреляции, вероятно, вообще не будет. Маловероятно, чтобы совокупное влияние погодных условий в одном году корреллировало с аналогичным влиянием в следующем году [5, C.29].

Автокорреляция может также быть отрицательной.

Отрицательная автокорреляция – ситуация, когда случайный член регрессии в следующем наблюдении ожидается знака, противоположного знаку случайного члена в настоящем наблюдении. Соответствует случаю

Это означает, что корреляция между последовательными значениями случайного члена отрицательна. В этом случае, скорее всего, за положительным значением в одном наблюдении идет отрицательное значение в следующем, и наоборот; диаграмма рассеяния при этом выглядит так, как показано в Приложении 2.

Здесь снова предполагается, что х со временем растет. Линия, соединяющая последовательные наблюдения друг с другом, будет пересекать линию, показывающую зависимость между у и х, чаще, чем можно было ожидать, если бы значения случайного члена не зависели друг от друга.

В экономике отрицательная автокорреляция встречается относительно редко. Но иногда она появляется при преобразовании первоначальной спецификации модели в форму, подходящую для регрессионного анализа.

Автокорреляция первого порядка – ситуация, когда коррелируют случайные члены регрессии в последовательных наблюдениях:

Авторегрессионная схема первого порядка – частный случай автокорреляции первого порядка, когда зависимость между последовательными случайными членами описывается формулой: uk+1= puk + ek+1, где p – константа, ek+1 – новый случайный член [2, C.55].

Это означает, что величина случайного члена в любом наблюдении равна его значению в предшествующем наблюдении умноженному на p, плюс новый

. Данная схема называется авторегрессионной, поскольку и определяется значениями этой же самой величины с запаздыванием, и схемой первого порядка, потому что в этом простом случае максимальное запаздывание равно единице. Предполагается, что значение в каждом наблюдении не зависит от его значений во всех других наблюдениях. Если p положительно, то автокорреляция положительная; если p отрицательно, то автокорреляция отрицательная. Если p = 0, то автокорреляции нет и третье условие Гаусса—Маркова удовлетворяется.

Не располагая способом измерения значений случайного члена, невозможно оценить регрессию uk+1= puk + ek+1 непосредственно. Тем не менее можно оценивать p путем оценивания регрессионной зависимости еk от еk-1 с использованием обычного Метода наименьших квадратов. При этом оценка p равна

Можно показать, что

аппроксимируется выражением

Критерий Дарбина – Уотсона – метод обнаружения автокорреляции первого порядка с помощью статистики Дарбина – Уотсона.

Статистика критерия Дарбина – Уотсона вычисляется по формуле:

, где ek – остатки в наблюдениях авторегрессионной схемы первого порядка uk+1 = сuk + ee k+1.

Значение DW-статистики будем обозначать также через d.

Критерий Дарбина – Уотсона обнаруживает только ярко выраженную автокорреляцию первого порядка и лишь при отсутствии лаговых переменных в регрессии.

Если автокорреляция отсутствует, то p = 0, и поэтому величина d должна быть близкой к двум. При наличии положительной автокорреляции величина будет меньше двух; при отрицательной автокорреляции она будет превышать 2. Так как p должно находиться между значениями 1 и – 1, то d должно лежать между 0 и 4 [8, C.46].

Критическое значение d при любом данном уровне значимости зависит от числа объясняющих переменных в уравнении регрессии и от количества наблюдений в выборке. К сожалению, оно также зависит oт конкретных значений, принимаемых объясняющими переменными. Поэтому невозможно составить таблицу с указанием точных критических значений для всех возможных выборок, как это можно сделать для t- и F-статистик; но можно вычислить верхнюю и нижнюю границы для критического значения d. Для положительной автокорреляции они обычно обозначаются как dU и dL.

На схеме 1.1 представлена данная ситуация. Стрелка указывает критический уровень d, который обозначается как dкрит. Если знать значение dкрит, то можно сравнить с ним значение d, рассчитанное для регрессии. Если бы оказалось, что d

dкрит, то невозможно было бы отклонить нулевую гипотезу об отсутствии автокорреляции. В случае d

dкрит возможно отклонить нулевую гипотезу и сделать вывод о наличии положительной автокорреляции.

Схема 1.1 Тест Дарбина – Уотсона на автокорреляцию (положительная автокорреляция)

Вместе с тем знаем только, что dкрит находится где-то между dL и dU. Это предполагает наличие трех возможностей.

1. Величина d меньше, чем dL. В этом случае она будет также меньше, чем dкрит, и поэтому делаем вывод о наличии положительной автокорреляции.

2. Величина d больше, чем dU. В этом случае она также больше критического уровня, и поэтому невозможно отклонить нулевую гипотезу.

3. Величина d находится между dL и dU. В этом случае она может быть больше или меньше критического уровня. Поскольку нельзя определить, которая из двух возможностей налицо, невозможно ни отклонить, ни принять нулевую гипотезу.

В случаях 1 и 2 тест Дарбина—Уотсона дает определенный ответ, но случай 3 относится к зоне невозможности принятия решения, и изменить создавшееся положение нельзя [6, C.18].

Таким образом, зона неопределенности критерия Дарбина – Уотсона – промежуток значений статистики Дарбина–Уотсона, при попадании в который критерий не дает определенного ответа о наличии или отсутствии автокорреляции первого порядка.

Проверка на отрицательную автокорреляцию проводится по аналогичной схеме, причем зона, содержащая критический уровень, расположена симметрично справа от 2. Так как отрицательная автокорреляция встречается относительно редко, предполагается, что при необходимости самостоятельно вычисляются границы зоны на основе соответствующих значений для положительной автокорреляции при данном числе наблюдений и объясняющих переменных. Как показано на Схеме 1.2 величина (4 - dU) есть нижний предел, ниже которого признается отсутствие автокорреляции, а (4 - dL) — верхний предел, выше которого делается вывод о наличии отрицательной автокорреляции.

Схема 1.2 Тест Дарбина – Уотсона на автокорреляцию (отрицательная автокорреляция)

2 Поправка Прайса–Уинстена и метод Кохрейна–Оркатта устранения автокорреляции

Наилучший, но не всегда возможный, способ устранения автокорреляции – установление ответственного за нее фактора и включение соответствующей объясняющей переменной в регрессию.

В других случаях процедура, которую следует принять для устранения автокорреляции, будет зависеть от характера зависимости между значениями случайного члена. В литературе наибольшее внимание уделяется авторегрессионной схеме первого порядка uk+1= puk + ek+1, так как она интуитивно правдоподобна, но для того, чтобы было целесообразным ее использование в более сложных моделях, оснований обычно не хватает. Вместе с тем если наблюдения проводятся ежеквартально или ежемесячно, могут оказаться более подходящими другие модели.

Если бы уравнение uk+1= puk + ek+1 было правильной спецификацией для измерения величины случайного члена, то возможно было бы полностью устранить автокорреляцию, если бы знали величину p. Это будет продемонстрировано на примере уравнения регрессии, включающего только одну объясняющую переменную, однако при большем их числе действует тот же принцип [9, C.91].

Предположим, что истинная модель задается выражением

так что наблюдения t и t - 1 формируются как

Теперь вычтем из обеих частей уравнения

умноженное на p соотношение

и получим:

Обозначим

Тогда формулу

можно переписать как

Вместе с тем из уравнения uk+1= puk + ek+1 имеем

. Таким образом, формула

принимает вид:

Если p известно, тогда можно вычислить величины

, и

(последняя одинакова для всех наблюдений) для наблюдений, включающих от 2 до Т исходных данных. Если теперь оценить регрессию между

, и

(заметим, что в уравнение не должна включаться постоянная), то будут получены оценки

, не связанные с проблемой автокорреляции, поскольку, согласно предположению, значения е не зависят друг от друга.

Остается небольшая проблема. Если в выборке нет данных, предшествующих первому наблюдению, то невозможно вычислить

и потеряется первое наблюдение. Число степеней свободы уменьшается на единицу, и это вызовет потерю эффективности, которая может в небольших выборках перевесить повышение эффективности от устранения автокорреляции [4, C.72].

Эту проблему можно довольно легко обойти, пользуясь так поправкой Прайса – Уинстена.

Поправка Прайса–Уинстена – метод спасения первого наблюдения в автокорреляционной схеме первого порядка.

Случайный член

, согласно определению, не зависит от значения и в любом предшествующем наблюдении. В частности, все величины

не зависят от u1. Следовательно, если при устранении автокорреляции все другие наблюдения преобразуются, то не требуется преобразовывать первое наблюдение. Можно сохранить его, включив в новую схему, полагая, что

Таким способом возможно спасти первое наблюдение, но здесь есть небольшая проблема, которую требуется решить. Если p велико, то первое наблюдение будет оказывать непропорционально большое воздействие на оценки, исчисленные по уравнению регрессии. Чтобы нейтрализовать этот эффект, уменьшим вес данного наблюдения умножением его на величину

, полагая

Конечно, на практике величина р неизвестна, его оценка получается одновременно с оценками

. Имеется несколько стандартных способов такого оценивания, например, метод Кокрана - Оркатта.

Метод Кокрана–Оркатта – компьютерный итерационный метод устранения автокорреляции первого порядка.

Метод Кокрана–Оркатта с поправкой Прайса – Уинстена итерационно оценивает a, b1, b2, .. bm и коэффициент r в авторегрессионной схеме, пока разница между результатами итераций не станет очень малой. Реализуется только на компьютере.

Метод Кокрана – Оркатта включает следующие этапы.

1. Оценивается регрессия

с исходными непреобразованными данными.

2. Вычисляются остатки.

3. Оценивается регрессионная зависимость еt от еt-1, соответствующая формуле uk+1= puk + ek+1, и коэффициент при еt-1, представляет собой оценку p .

4. С этой оценкой р уравнение

преобразуется в

, оценивание которого позволяет получить пересмотренные оценки

5. Повторно вычисляются остатки, и процесс возвращается к этапу.

Заключение

При наличии во временном ряде тенденции и циклических колебаний значения каждого последующего уровня ряда зависят от предыдущих. Корреляционную зависимость между последовательными уровнями временного ряда называют автокорреляцией уровней ряда.

Количественно ее можно измерить с помощью линейного коэффициента корреляции между уровнями исходного временного ряда и уровнями этого ряда, сдвинутыми на несколько шагов во времени.

По знаку коэффициента автокорреляции нельзя делать вывод о возрастающей или убывающей тенденции в уровнях ряда. Большинство временных рядов экономических данных содержат положительную автокорреляцию уровней, однако при этом могут иметь убывающую тенденцию.

Последовательность коэффициентов автокорреляции уровней первого, второго и других порядков называют автокорреляционной функцией временного ряда. График зависимости ее значений от величины лага (порядка коэффициента автокорреляции) называется коррелограммой.

Анализ автокорреляционной функции и коррелограммы позволяет определить лаг, при котором автокорреляция наиболее высокая, а следовательно, и лаг, при котором связь между текущим и предыдущими уровнями ряда наиболее тесная, то есть при помощи анализа автокорреляционной функции и коррелограммы можно выявить структуру ряда.

Глоссарий

№ п/п	Новое понятие	Содержание
1	2	3
1	Автокорреляция	нарушение третьего условия Гаусса – Маркова, которое заключается в том, что случайные члены регрессии в разных наблюдениях являются зависимыми: cov(uk,ui) №_ 0, при k №_ i.
2	Автокорреляция первого порядка	ситуация, когда коррелируют случайные члены регрессии в последовательных наблюдениях: .
3	Авторегрессионная схема первого порядка	частный случай автокорреляции первого порядка, когда зависимость между последовательными случайными членами описывается формулой: uk+1= puk + ek+1, где p – константа, ek+1 – новый случайный член.
4	Зона неопределенности критерия Дарбина – Уотсона	промежуток значений статистики Дарбина–Уотсона, при попадании в который критерий не дает определенного ответа о наличии или отсутствии автокорреляции первого порядка.
5	Критерий Дарбина – Уотсона	метод обнаружения автокорреляции первого порядка с помощью статистики Дарбина – Уотсона.
6	Лаг	запаздывание, экономический показатель, характеризующий временной интервал между двумя взаимосвязанными экономическими явлениями, одно из которых является причиной, а второе - следствием.
7	Метод Кокрана–Оркатта	компьютерный итерационный метод устранения автокорреляции первого порядка.
8	Отрицательная автокорреляция	ситуация, когда случайный член регрессии в следующем наблюдении ожидается знака, противоположного знаку случайного члена в настоящем наблюдении.
9	Положительная автокорреляция	ситуация, когда случайный член регрессии в следующем наблюдении ожидается того же знака, что и случайный член в настоящем наблюдении.
10	Поправка Прайса–Уинстена	метод спасения первого наблюдения в автокорреляционной схеме первого порядка.

Список использованных источников

Бывшев В.А. Эконометрика: Учебник. – М.: Финансы и статистика, 2008.

Валентинов В.А. Эконометрика: Учебное пособие. – М.: Юнити, 2009.

Давыдов С.Б. Математическое моделирование экономических систем. – М.: Либроком, 2010.

Елисеева И.И. Эконометрика: Учебник. – М.: Экзамен, 2009.

Кремер Н.Ш., Путко Б.А. Эконометрика: Учебник. – М.: Дрофа, 2008.

Луговская Л.В. Эконометрика в вопросах и ответах: Учебное пособие. – М.: Академия, 2009.

Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика. Начальный курс: Учебник. – М.: Дело, 2010.

Мардас А. Н. Эконометрика: Учебник. – М.: Финансы и статистика, 2009.

Орлов А.И. Эконометрика: Учебник. – М.: Феникс, 2009.

Толоконников Л. А., Кочетыгов А. А.Основы эконометрики: Учебное пособие. – М.: Феникс, 2009.

Приложение 1

Схема 1.1 Положительная автокорреляция

Приложение 2

Схема 1.2 Отрицательная автокорреляция