bo и b1 – const, поэтому они вынос-ся из знака ∑.
Разделим оба ур-ия на n.
Получили сис-му из 2-х ур-ий с 2 неизв-ми. Она имеет единст рещение, если ее опр-ль ≠0.
- дисп-ия разброса объясн-й перем-й. Она в случ выборках никогда ≠0. А если это происх-т, то дост-но из выборки изъять 1 пару или добавить и усл-ие б вып-ся.
D≠0
Выраж-е, стоящее в числ-ле предс-т собой ковариацию м/у перем-ми х и у.
Отсюда ковариация перем-ой самой с собой предст-т дисп-ию
Чтобы получить bo его знач-ия
В числ-ле прибавим и отнимем
=> bo и b1 расч-ся по выборке и bo только гаран-т прохождение линии регр-ии ч/з ср точку выборки.
Рас-м коэф-т
Умножим и разделим на Sу/
Это коэф-т выбороч корре-и м/у х и у.
=> b1 пропорц-ен коэф-ту выбороч коррел-и, а коэф-м пропорц-ти яв-ся отн-ие стандартов откл-ий рассматр-х фак-ров, что позволяет соизмерить эти ф-ры даже при усл-ии, что они яв-ся разноразмерными вел-ми.
Т.е. в лин ур-ии ỹ=bo+b1x х и у м иметь разн ед-цы изм-ия. Допустим х – тыс руб, у -%. Если r уже рассчитан, то мы м легко найти ур-ия парной регр-ии у на х и построить ур-ие х на у.
Отсюда
Проведенные рассуж-ия позволяют сделать неск-ко выводов:
1). Оценки коэф-тов по МНК позв-т их легко расч-ть, т.к. яв-ся ф-ями от выборки.
2). Оценки яв-ся точечными (числовыми) оценками теорет-х коэф-в.
3). Вычисления коэф-та bo всегда пок-т, что люб ур-ие регр-ии всегда проходит ч/з ср точку выборки
4). Ур-ие регр-ии строится так, что ∑ei=0 =>
Покажем это. Из сис-мы ур-ий для коэф-в д вып-ся усл-ие
-2∑(yi-bo-b1xi)=0
-2∑(yi-ỹi)=0
-2∑ei=0 =>∑ei=0
5). Случ откл-ия ei некоррел-ны (не зависят) со случ вел-ми yi.
6). Случ откл-ие ei не коррел-т с объясняющими перем-ми, т.е. Sxe=0.
Для опр-ия вида зав-ти построим поле коррел-ии.
Для вычисления по МНК стр-ся табл.
Для анализа правил-ти опр-ия коэф-в необ-мо расч-ть ỹi и ei=(yi-ỹi)
Для анализа силы лин зав-ти вычисляем коэф-т коррел-ии.
Под интерпретацией пон-ся словесное описание получ-х рез-тов с трактовкой найденных коэф-в так, чтобы получ зав-ть стала понятна ч-ку, не имеющего навыков эконометр анализа. После интерпретации рез-тов всегда встает вопрос о кач-ве оценок и самого ур-ия в целом.
Проверка качества уравнения регрессии.
Регресс-й анализ позвол-т найти точечные оценки коэф-в ур-ий регр-ии. При этом мы знаем, что знач-е завис-й перем-й yi=βo+β1xi+εi зависит от случ откл-ий εi=> У случ вел-ны, завис-ие от этих откл-ий. И пока мы не опр-м какому закону распред-ия подчинены случ вел-ны εi, мы не м.б. уверены в кач-ве оценок коэф-в урав-ия, а => и самого ур-ия ỹ=bo+b1x.
Причем б показано, что
, т.е. это тоже случ вел-на, причем если х м считать экзогенным (задав-м из вне) фак-ром, то у – случ вел-на.Теорет-ки b1 м разложить на неслуч и случ составл-ую. Для этого рассм-м ковариацию м/у х и у.
и воспол-ся нек-ми правилами для вычисл-ия ковариации:
1). cov(u,a)=0
2). cov(u, av)= a cov(u,v)
Тогда = cov(x,βo) +cov(x,β1x)+cov(x,ε) = β1cov(x,x)+cov(x,ε) = β1S²x+cov(x,ε)
Отсюда
β1 – нек-ая const, а 2 слогаемое предст-т случ составл-ую, входящую в вел-ну коэф-та.
Но т.к. мы не знаем теоретич-х откл-ий ε, то рассч-ть это слогаемое непоср-но нельзя.
Точно также м показать, что коэф-т do имеет случ и неслуч состав-ую.
Доаказано, что для получения по МНК наилуч-х рез-тов необ-мо, чтобы выпол-ся ряд требований отн-но случ вел-ны ε.
Предпосылки МНК (условия Гаусса-Маркова).
1). Матем ожидание случ откл-ия ε=0 для всех набл-ий М(εi)=0 для люб εi. Это усл-ие озн-т, что в ср случ откл-ие не оказ-ют влияние на завис переем-ую, хотя в каждом из набл-ий они м.б. положит или отрицат, больш или малыми, но не д.б. причины, чтобы εi имело системат-ие откл-ия.
2). Дисп-ии откл-ий пост-ны.
D(εi)=D(εj)=σ²=const i≠j.
Подразумевает, что несмотря на то, что в каждом из набл-ий случ откл-ия м.б. различ-ми, нет никакой причины, вызывающей большую или меньшую ошибку при опр-ии откл-ий.
Выполнимость этой предпосылки наз-т гомоскедастичность, ее невыпол-ие гетероскедастичность.
Рассм-м, что это озн-т.
D(εi)=M(εi-M(εi))²=
По 1 усл-ию M(εi)=0, поэтому = M(εi)²
И => усл-ие м записать M(εi)²=σ².
Причины и последствие невыпол-ия этой предпосылки б рассм-ть в общем анализе.
3). Случ откл-ие εi и εji≠j не зависят др от др. Это означает, что отсут-т систем-я связь м/у 2 любыми парами откл-ий, т.е.
Если это усл-ие вып-ся, то гов-т об отсут-ии а/коррел м/у случ откл-ми.
Это соотн-ие еще перепис-т в форме M(εi,εj)=0 (i≠j).
4). Случ откл-ие д.б. незав-мо от объясняющ-х переем-х. Обычно это усл-ие вып-ся автомат-ки, если объяснящие перем-ые – известные вел-ны.
Но м показать, что в принципе это выпол-ся в любых мделях данного типа.
Пояснение
5). Модель яв-ся линейной отн-но ее парам-ов βо β1.
Теорема Гаусса-Маркова.
Основ-ся на предпосылках МНК.
Если все 5 предпос-к вып-ся, то оценки коэф-в, получ-е с помощью МНК облад-т след сво-вами:
А). Оценки яв-ся несмещенными, т.е.
Б). Оценки яв-ся состоятельными, т.к. дисп-ии их с ростом объема выборки стрем-ся к 0.
Т.е. ↑ объема выборки приводит к устойчивости оценок коэф-в ур-ия. Сч-ся, что объем выборки д удовл-ть соот-ию n>3m-1, где m-кол-во объясняющих переем-х.
В). Оценки эфф-ны, т.е. они имеют наименьшую дисп-ию разброса отн-но теорет-х вел-н по срав-ию с такими же оценками полученных с примен-м и люб др методов расчета.
В англоязыч науч лит-ре эти оценки получ-ли название BLUE(голубые оценки) по первыем буквам (наилуч лин состоят эффект). Если наруш-ся предпосылки 2 и 3, то дисп-ии откл-ий не пост-ны, случ откл-ия связаны др с др и коэф-ты теряют св-ва несмещен-ти и эффек-ти.
При этос б сделаны след предположения:
1). Объясняющ перем-ые не яв-ся случ.
2). Случ вел-ны εi имеют норм распр-ие с пар-ми 0 и ε²
εi²~N(0;σ²)
Число набл-ий n>3m-1 сущ-но > числа объясняющ перем-х. Отсут-т ошибки специф-ии. М/у объясняющ перем-ми в случае m≥2 отсут-т зав-т (мультикол-ть).
Анализ точности определения оценок коэффициентов регрессии.
Изв-но, что мат ожидания расчет коэф-в совпадают с их теоретич вел-ми
При этом чем < откл-ие оценок от этих теоретич вел-н, тем надежнее построенное ур-ие.
Покажем, что дисп-ии оценок D(b1) и D(bo) непоср-но связаны с дисп-ей случ откл-ий в теоретич модели D(εi)=D(εj)=σ²=consti≠j.
Для этого запишем вел-ну b
Обозначим за
=∑Сiyi
Аналог-но преобр-м знач-е для bo.
Обозначим