неизвестные параметры которых находим методом наименьших квадратов.
Например, для
находим минимумна основании необходимого условия экстремума функции двух переменных
приравнивая нулю ее частные производные, т.е.После преобразований получаем систему нормальных уравнений для определения параметров линейной регрессии:
где соответствующие средние определяются по формулам:
Подставляя значения
в уравнение регрессии получаем: или ,где коэффициент
получил название коэффициента регрессии по и обозначение . Этот коэффициент показывает на сколько единиц в среднем изменяется переменная при увеличении переменной на одну единицу.Решая систему нормальных уравнений, найдем
: ,где
- выборочная дисперсия переменной : , - выборочный корреляционный момент или выборочная ковариация: , - выборочный коэффициент корреляции: .Уравнение регрессии
по окончательно выглядит следующим образом: .Рассуждая аналогично находят уравнение регрессии
по : .Сравнение уравнения регрессии, полученные методом наименьших квадратов, с уравнением регрессии двумерной случайной величины с нормальным законом распределения показывает их идентичность. Поэтому для оценки линейного уравнения регрессии генеральных совокупностей
и по выборке в формулахНеобходимо заменить параметры
, и их состоятельными выборочными оценками – соответственно .Свойства выборочного (статистического) коэффициента корреляции
Для оценки тесноты связи между переменными
и по выборочным значениям используют статистический коэффициент корреляции : .Если данные не сгруппированы в виде корреляционной таблицы и представляют
пар чисел , то для вычисления коэффициента корреляции проводят по следующей формуле: .Между коэффициентом корреляции
и коэффициентами регрессии и существует связь: , , .Основные свойства коэффициента корреляции (при достаточно большом объеме выборке
):1. Коэффициент корреляции лежит в пределах:
;2. Если все значения переменных увеличить (уменьшить) на одно и то же число или в одно и то же число раз, по величина коэффициента корреляции не изменится.
3. При
корреляционная связь представляет линейную функциональную зависимость.4. При
корреляционная линейная связь отсутствует.При оценке тесноты связи между переменными
и по выборочному коэффициенту корреляции необходимо проверить значимость этого коэффициента, т.е. установить достаточна ли его величина для обоснования вывода о наличии корреляционной связи. Для этого необходимо проверить нулевую гипотезу : - коэффициент корреляции между генеральными совокупностями и равен нулю. При справедливости этой гипотезы статистика (критерий)Имеет
- распределение Стьюдента с степенями свободы. При заданном уровне значимости и степени свободы находим по таблицам закона распределения Стьюдента критическое значение . Если , то нулевая гипотеза об отсутствии корреляционной связи между переменными и отвергается и переменные считаются зависимыми. При нет оснований отвергать нулевую гипотезу. Значимость коэффициента корреляции свидетельствует и о значимости коэффициентов регрессии, соответственно и о значимости линейного уравнения регрессии.Понятие о нелинейной регрессии, индекс корреляции и коэффициент детерминации
В экономических приложениях часто возникает необходимость выражать корреляционную зависимость в виде нелинейных уравнений регрессии, поскольку линейные зависимости приводят к большим ошибкам. Выбор вида нелинейной регрессии называется спецификацией или этапом параметризации модели и осуществляется методами визуального оценивания точек корреляционного поля, анализа сути наблюдаемых экономических процессов и т.п. Наиболее часто в экономических исследованиях используют следующие виды нелинейной регрессии: