Условия получения «хороших» оценок методом наименьших квадратов

Метод наименьших квадратов дает хорошие оценки коэффициентов регрессии при выполнении некоторых условий. Эти условия касаются случайной компоненты _. Основные предположения классической однофакторной линейной модели регрессии являются следующие:

1. M()=0;

2. D()=const;

3. cov(, )=0;

В многофакторных моделях добавляется 4 условие.

4. независимость факторов между собой.

Нарушение одного из этих условий свидетельствует о непригодности регрессионного уравнения. В этих случаях регрессионные уравнения пересматриваются, либо используются другие средства или методы оценки коэффициентов регрессии.

Условие 1. M( )=0.

При нарушении условия 1 оценка параметров регрессионного уравнения является неэффективной. Графически это можно изобразить следующим образом:

Метод наименьших квадратов при отсутствии ошибок в решении всегда дает выполнение данного условия.

Условие 2. D ()=const.

Нарушение условия 2, т.е. дисперсия случайной компоненты не является постоянной, графически можно представить следующим образом:

Дисперсия увеличивается, т.е. не является константой. Если остатки имеют постоянную дисперсию, то они называются гомоскедастичными. Если остатки не постоянны, то они называются гетероскедостичными.

Гетероскедостичность приводит к тому, что коэффициенты регрессии не представляют собой лучшие оценки или не являются оценками с наименьшей дисперсией, и следовательно они не являются «хорошими» коэффициентами. Непостоянство дисперсии часто встречается в моделях нестационарной экономики при использовании в качестве исходных данных временных рядов стоимостных показателей.

В пространственных выборках гетероскедостичность встречается, когда анализируемые объекты не однородны по своему масштабу.

Строгое решение о наличии гетероскедостичности принимается на основе общей процедуры – проверки гипотез. Одним из статистических критериев может выступать критерий, рассчитанный как отношение суммы квадратных регрессионных остатков по формуле:

Этот критерий имеет F-распределение с n/2–k степенями свободы (m₁=n/2–k, m₂=n/2–k).

Если проверяется гипотеза о росте дисперсии, то F^рассч<F^таб.

Условие 3. cov(, )=0.

Нарушение условия 3. проявляется в том, что между ошибками разных наблюдений есть какая-то зависимость. Графически это можно представить следующим образом:

Нарушение условия независимости остатков между собой называется автокорреляцией остатков.

Автокорреляция имеет место, когда текущие значения yi находятся под влиянием прошлых значений y. Зависимости между остатками описываются с помощью авторегрессионной схемы.

Например, допустим, что остаток находится под влиянием остатка из предыдущего периода времени и какого-либо текущего значения случайной переменной y_t. Остаток будет описываться следующей авторегрессионной функцией:

- коэффициент регрессии авторегрессионной модели.

Эта форма авторегрессионной функции называется авторегрессионной функцией первого порядка, т.к. только один предшествующий временной период включен в функцию.

Нарушение условной независимости остатков также делает модель неадекватной. Вызвано это тем, что при наличии автокорреляции остатков стандартные ошибки модели так же, как и в случае с гетероскедостичными остатками, будут недооценены и, как следствие, проверка значимости коэффициентов регрессии будет ненадежной. Проверку на наличие автокорреляции проводят на основании теста Дарбина-Уотсона (D-W) и рассчитывается по формуле:

Статистика Дарбина–Уотсона подчиняется выборочному распределению. Таблица квантилей (критических точек) данного распределения содержит значения двух критических точек – верхней и нижней. Выбор этих точек определяется количеством независимых переменных и числом наблюдений их составляющих. Сравнивая значения D-W табличного и D-W расчетного можно проверить гипотезу о наличии автокорреляции.

При проверке наличия автокорреляции на практике можно руководствоваться простым правилом:

Расчетное значение D-W близкое к 2 свидетельствует об отсутствии автокорреляции. Значение, близкое к 4, свидетельствует об отрицательной автокорреляции. Значение, близкое к 0 – о положительной автокорреляции.

Более строгие решения принимаются на основе табличных данных и следующих правил:

1. Если D-W≤d₁, то гипотеза об отсутствии автокорреляции отвергается.

2. Если d₂≤D-W≤2+d₂, гипотеза об отсутствии автокорреляции принимается.

3. Если 4–d₁≤-W≤4, то принимается гипотеза об отрицательной автокорреляции.

Табличные данные можно найти в учебниках по эконометрике.

Возможной причиной присутствия автокорреляции остатков может быть неправильный выбор формы математической зависимости между переменными. Исходя из этого, как один из способов устранения автокорреляции может быть представлено изменение математической зависимости между переменными. Еще одним способом устранения автокорреляции может быть введение в модель лаговых переменных. Под лаговыми переменными понимают переменные, которые измерены в прошлом периоде времени и участвуют в модели для объяснения процессов, происходящих в текущем периоде. При этом в модели в качестве независимых переменных могут участвовать лаговые варианты как независимых, так и зависимых переменных. В последнем случае полученные модели называются смешанными авторегрессионными моделями.

Условие 4. Нарушения условия независимости факторов между собой в регрессионном уравнении или иными словами присутствие мультиколлинеарности является нарушением одного из требований классической регрессии.

Мультиколлинеарность возникает из-за неправильного выбора списка объясняемых переменных или из-за экономической природы выбранных переменных. Последняя вытекает из того обстоятельства, что в периоды кризисов или наоборот экономических подъемов большинство экономических переменных изменяются однонаправлено.

Внешними признаками мультиколлинеарности могут являться:

1. наличие значений коэффициентов в парной корреляции между объясняемыми переменными по абсолютной величине превосходящих 0,75.

2. наличие оценок коэффициентов регрессии, имеющих непрерывные, с точки зрения теории, знаки или неправдоподобно большие значения.

3. существенное изменение оценок коэффициентов модели при небольшом изменении исходных данных.

4. наличие больших стандартных ошибок и малой статистической значимости оценок коэффициентов регрессии при общей значимости модели (большие значения коэффициентов детерминации и F-статистики при малых значениях t-статистики).

Все эти признаки говорят о присутствии мультиколлинеарности только в первом приближении, более точные выводы делаются на основе расчета коэффициента детерминации для каждой пары объясняемых переменных. Для устранения мультиколлинеарности существует несколько способов:

1. исключение из модели связанных между собой независимых переменных путем отбора наиболее существенно объясненных переменных.

2. использование методов оценки коэффициентов, учитывающих мультиколлинеарность.