Парная линейная регрессия

Регрессионный анализ - это один из наиболее распространенных инструментов эконометрического анализа, который позволяет оценить связи между зависимой (объясняемой) и независимыми (объясняющими) переменными. Зависимую переменную иногда называют результативным признаком, а объясняющие переменные предикторами, регрессорами или факторами.

Обозначим зависимую (объясняемую) переменную как y, а независимые (объясняющие) переменные как x₁, x₂, …….., x_k. Если k = 1 и есть только одна независимая переменная x₁ (которую обозначим x), то регрессия называется простой или парной. Если k = 2, 3, ….., то регрессия называется множественной.

Определение вида модели, исходя из соответствующей теории связи между переменными, называется спецификацией модели. При изучении зависимости между двумя переменными достаточно наглядным является графический метод. Он основан на поле корреляции. Полем корреляции называется графическое изображение взаимосвязи между двумя переменными на координатной плоскости. Если пары переменных (x_i, y_i),(i=1,…,n) изображать в виде точек на плоскости, то можно получить представление о функциональной зависимости между ними.

Начнем с построения простейшей модели парной регрессии

y = a + bx + ε, (1.1)

где y – зависимая переменная, состоящая из двух слагаемых: 1) неслучайной составляющей y_x = a + bx (x – независимая переменная, a и b – постоянные числа – параметры уравнения); 2) и случайной составляющей ε.

Существование отклонений от прямой регрессии, т.е. случайных составляющих ε, объясняется рядом причин, например:

1. Ошибки измерения.

2. Невключение объясняющих переменных.

3. Неправильный выбор вида зависимости в уравнении.

4. Отражение уравнением регрессии связи между агрегированными переменными.

Оценка параметров парной линейной регрессии. Метод наименьших квадратов (МНК).