Эконометрика 10 (стр. 2 из 5)

Математически критерий оценки параметров линейной парной регрессии записывается так:

Q =

→ min.

Условие существования экстремума функции – равенство нулю производной:

= - 2

(y_i - a - bx_i) = 0,

= - 2

(y_i - a - bx_i)x_i = 0.

Раскрыв скобки и выполнив преобразования, получим систему из двух уравнений с двумя неизвестными:

Разделив первое уравнение на n, получим:

a + b

т.е. метод наименьших квадратов дает прямую, проходящую через точку (

Решая систему, получим расчетные формулы для нахождения коэффициентов уравнения регрессии:

a =

- b

(6.3)

Заметим, что данные значения могут быть легко получены средствами пакета Microsoft Excel. Для вычисления коэффициента a используется функция ОТРЕЗОК, коэффициента b – функция НАКЛОН.

3. Коэффициент линейной корреляции

Величина влияния фактора на исследуемый отклик может быть оценена при помощи коэффициента линейной парной корреляции, характеризующего тесноту (силу) линейной связи между двумя переменными.

Коэффициент можно определить по формуле:

(6.4)

Коэффициент обладает следующими свойствами:

1) не имеет размерности, следовательно, сопоставим для величин различных порядков;

2) изменяется в диапазоне от –1 до +1. Положительное значение свидетельствует о прямой линейной связи, отрицательное – об обратной. Чем ближе абсолютное значение коэффициента к единице, тем теснее связь. Считается, что связь достаточно сильная, если коэффициент по абсолютной величине превышает 0,7, и слабая, если он менее 0,3.

Значение коэффициента легко вычисляется при помощи MS Excel (функция КОРРЕЛ).

Величина r² называется коэффициентом детерминации. Он определяет долю вариации одной из переменных, которая объясняется вариацией другой переменной.

4. Множественная регрессия

В тех случаях, когда необходимо оценить влияние нескольких факторов на исследуемую величину, строится уравнение множественной регрессии.

Если связь является линейной, то уравнение линейной множественной регрессии запишется в виде:

_i = a₀ + a₁x_i1 + a₂x_i2 + ... + a_mx_im,

где m - число учитываемых факторов (независимых переменных),

n - объем выборки.

Рассмотрим случай, когда y зависит от двух переменных – x₁ и x₂.

Уравнение с оцененными параметрами будет иметь вид:

_i = a₀ + a₁x_i1 + a₂x_i2,

Чтобы определить значения коэффициентов a₀, a₁ и a₂, воспользуемся методом наименьших квадратов.

Как и ранее, задача формулируется следующим образом:

Q =

→ min.

Приравяв частные производные нулю и выполнив преобразования, получим систему уравнений:

Решив систему, можно получить формулы для расчета коэффициентов уравнения множественной линейной регрессии (a₀, a₁, a₂).

Рассмотрим более общий случай - зависимость переменной y от m факторов.

Обозначим:

A = {a_j}, j = 0, 1, 2, ..., m - вектор оценок параметров регрессии;

Y = {y_i},

- вектор значений зависимой переменной;

X = {x_ij},

, j = 0, 1, 2, ..., m - матрица значений независимых переменных;

при этом m - количество независимых переменных, n - объем выборки.

Уравнение регрессии может быть представлено в следующим образом.

Для конкретного y_i:

_i = a₀ + a₁x_i1 + a₂x_i2 + ... + a_mx_im,

(6.5)

Обратите внимание на то, что в матрицу X дополнительно введен столбец, все элементы которого равны 1, т.е. условно полагается, что в уравнении (6.5) свободный член a₀ умножается на фиктивную переменную x_i0, принимающую значение 1 для всех i.

Можно показать, что для общего случая множественной линейной регрессии, коэффициенты уравнения могут быть определены из следующего соотношения: