Хотя метод наименьших квадратов дает нам линию регрессии, которая обеспечивает минимум вариации, регрессионное уравнение не является идеальным в смысле предсказания, поскольку не все значения зависимого признака Y удовлетворяют уравнению регрессии. Нам необходима статистическая мера вариации фактических значений Y от предсказанных значений Y. Эта мера в то же время является средней вариацией каждого значения относительно среднего значения Y.Мера вариации относительно линии регрессии называется стандартной ошибкой оценки.
Для проверки того, насколько хорошо независимая переменная предсказывает зависимую переменную в нашей модели, необходим расчет ряда мер вариации. Первая из них – общая (полная) сумма квадратов отклонений результативного признака от средней – есть мера вариации значений Y относительно их среднего `Y. В регрессионном анализе общая сумма квадратов может быть разложена на объясняемую вариацию или сумму квадратов отклонений за счет регрессии и необъясняемую вариацию или остаточную сумму квадратов отклонений.
Сумма квадратов отклонений вследствие регрессии это – сумма квадратов разностей между `y(средним значением Y) и `yx (значением Y, предсказанным по уравнению регрессии). Сумма квадратов отклонений, не объясняемая регрессией (остаточная сумма квадратов), – это сумма квадратов разностей y и `yx. Эти меры вариации могут быть представлены следующим образом (табл.8):
Таблица 8
Общая сумма квадратов (ST) | = | Сумма квадратов за счет регрессии (SR) | + | Остаточная сумма квадратов (SE) |
Следовательно, 91,3% вариации еженедельной выручки магазинов могут быть объяснены числом покупателей, варьирующим от магазина к магазину. Только 8,7% вариации можно объяснить иными факторами, не включенными в уравнение регрессии.
В простой линейной регрессии г имеет тот же знак, что и b1, Если b1 > 0, то r > 0; если b1 < 0, то r < 0, если b1 = 0, то r = 0.
В нашем примере r2 = 0,913 и b1 > 0, коэффициент корреляции r = 0,956. Близость коэффициента корреляции к 1 свидетельствует о тесной положительной связи между выручкой магазина от продажи пива и числом посетителей.
Мы интерпретировали коэффициент корреляции в терминах регрессии, однако корреляция и регрессия – две различные техники. Корреляция устанавливает силу связи между признаками, а регрессия – форму этой связи. В ряде случаев для анализа достаточно найти меру связи между признаками, без использования одного из них в качестве факторного признака для другого.
Доверительные интервалы для оценки неизвестного генерального значения `yген(myх) и индивидуального значения `yi.
Поскольку в основном для построения регрессионных моделей используются данные выборок,то зачастую интерпретация взаимоотношений между переменными в генеральной совокупности базируется на выборочных результатах.
Как было сказано выше, регрессионное уравнение используется для прогноза значений Y по заданному значению X. В нашем примере показано, что при 600 посетителях магазина сумма выручки могла бы быть 7,661 у. е. Однако это значение – только точечная оценка истинного среднего значения. Мы знаем, что для оценки истинного значения генерального параметра возможна интервальная оценка.
Доверительный интервал для оценки неизвестного генерального значения `yген(myх) имеет вид
где
Здесь `yx – предсказанное значение Y
(`yx==b0+b1yi);
Syx – стандартная ошибка оценки;
п – объем выборки;
хi – заданное значение X.
Легко видеть, что длина доверительного интервала зависит от нескольких факторов. Для заданного уровня значимости a увеличение вариации вокруг линии регрессии, измеряемой стандартной ошибкой оценки, увеличивает длину интервала. Увеличение объема выборки уменьшит длину интервала. Более того, ширина интервала также варьирует с различными значениями X. Когда оценивается `yx по значениям X, близким к `x, то интервал тем уже, чем меньше абсолютное отклонение хi от `x (рис. 9.5).
Когда оценка осуществляется по значениям X, удаленным от среднего `x, то длина интервала возрастает.
Рассчитаем 95%-й доверительный интервал для среднего значения выручки во всех магазинах с числом посетителей, равным 600. По данным нашего примера уравнение регрессии имеет вид
`yx = 2,423 + 0,00873x:
и для `xi= 600 получим `yi; =7,661, а также
По таблице Стьюдента t18 = 2,10.
Отсюда, используя формулы (9.31) и (9.32), рассчитаем границы искомого доверительного интервала для myx
Итак, 7,369 £ myx £7,953.
Следовательно, наша оценка состоит в том, что средняя дневная выручка находится между 7,369 и 7,953 у.е. для всех магазинов с 600 посетителями.
Для построения доверительного интервала для индивидуальных значений Yx, лежащих на линии регрессии, используется доверительный интервал регрессии вида
где hi,`yi,Syx, п и хi – определяются, как и в формулах (9.31) и (9.32).
Определим 95% – и доверительный интервал для оценки дневных продаж отдельного магазина с 600посетителями
В результате вычислений получим
Итак, 6,577 £ `yi £ 8,745.
Следовательно, с 95%-й уверенностью можно утверждать, что ежедневная выручка отдельного магазина, который посетили 600 покупателей, находится в пределах от 6,577 до 8,745 у. е. Длина этого интервала больше чем длина интервала, полученного ранее для оценки среднего значения Y.
Доверительные интервалы для оценки истинных значений неизвестного параметра уравнения регрессии b1 и коэффициента регрессии р в генеральной совокупности.
Построим доверительный интервал для истинного значения генерального параметра b1. Для этого проверим гипотезу о равенстве нулю b1. Если гипотеза будет отклонена, то подтверждается существование линейной зависимости Y от X. Сформулируем нулевую и альтернативную гипотезы:
Н0: b1 = 0 (линейной зависимости нет);
Н1: b1¹ 0 (линейная зависимость есть).
Для проверки гипотезы Н0 используется t-критерий (случайная величина t, имеющая распределение Стьюдента с п – 2 степенями свободы):
Где
Убедимся, что полученный выборочный результат является достаточным для заключения о том, что зависимость объема выручки от числа посетителей магазина статистически существенна на 5%-м уровне значимости.
Следовательно,
Найдем наблюдаемое значение критерия t
tкрит(a=0,05;k=18)= 2,1 (по таблице распределения Стьюдента).
Так как 13,77>2,10, то нулевая гипотеза Н0 отвергается в пользу альтернативной гипотезы Н1, и можно говорить о наличии существенной линейной зависимости ежедневной выручки от числа посетителей магазина.
Второй, эквивалентный первому, метод для проверки наличия или отсутствия линейной зависимости переменной Y от Х состоит в построении доверительного интервала для оценки b1 и определении того, принадлежит ли значение b1 этому интервалу. Доверительный интервал для оценки b1 получают по формуле
Найдем для нашего примера 95%‑й. доверительный интервал для оценки b1:
Итак, 0,0074 £ b1 £ 0,01006, т.е. с 95%-й уверенностью можно считать, что истинное значение коэффициента регрессии b1 находится в промежутке между числами 0,0074 и 0,01006. Так как эти значения больше нуля, то можно сделать вывод, что существует статистически значимая линейная зависимость выручки от числа посетителей. Если бы интервал включал нулевое значение, то мы не смогли бы сделать этого вывода.