Задание № 5

Исследуется зависимость месячного расхода семьи на продукты питания z_i, тыс.р. от месячного дохода на одного человека семьи х_i, тыс.р., от размера семьи у_i, чел. и от количества детей в семье u_i, чел. Необходимо:

1.В соответствии с методом наименьших квадратов найти уравнение множественной линейной регрессии .

Найти парные коэффициенты корреляции r_xy, r_xz, r_yz, r_xu, r_yu, r_zu.

2.С доверительной вероятностью 0,95 проверить коэффициенты корреляции на значимость.

3.Вычислить индекс множественной корреляции и проверить с доверительной вероятностью 0,95 его статистическую значимость.

РЕШЕНИЕ

Переобозначим

Xi=x1

Yi=x2

Ui=x3

Zi=y

Уравнение множественной регрессии может быть представлено в виде:

Y = f(β, X) + ε

где X = X(X₁, X₂,..., X_m) - вектор независимых (объясняющих) переменных; β - вектор параметров (подлежащих определению); ε - случайная ошибка (отклонение); Y - зависимая (объясняемая) переменная.

теоретическое линейное уравнение множественной регрессии имеет вид:

Y = β₀ + β₁X₁ + β₂X₂ +... + β_mX_m + ε

β₀ - свободный член, определяющий значение Y, в случае, когда все объясняющие переменные X_j равны 0.

Прежде чем перейти к определению нахождения оценок коэффициентов регрессии, необходимо проверить ряд предпосылок МНК.

Предпосылки МНК.

1. Математическое ожидание случайного отклонения ε_i равно 0 для всех наблюдений (M(ε_i) = 0).

2. Гомоскедастичность (постоянство дисперсий отклонений). Дисперсия случайных отклонений ε_i постоянна: D(ε_i) = D(ε_j) = S² для любых i и j.

3. отсутствие автокорреляции.

4. Случайное отклонение должно быть независимо от объясняющих переменных: Y_eixi = 0.

5. Модель является линейное относительно параметров.

6. отсутствие мультиколлинеарности. Между объясняющими переменными отсутствует строгая (сильная) линейная зависимость.

7. Ошибки ε_i имеют нормальное распределение. Выполнимость данной предпосылки важна для проверки статистических гипотез и построения доверительных интервалов.

Эмпирическое уравнение множественной регрессии представим в виде:

Y = b₀ + b₁X₁ + b₁X₁ +... + b_mX_m + e

Здесь b₀, b₁,..., b_m - оценки теоретических значений β₀, β₁, β₂,..., β_m коэффициентов регрессии (эмпирические коэффициенты регрессии); e - оценка отклонения ε.

При выполнении предпосылок МНК относительно ошибок ε_i, оценки b₀, b₁,..., b_m параметров β₀, β₁, β₂,..., β_m множественной линейной регрессии по МНК являются несмещенными, эффективными и состоятельными (т.е. BLUE-оценками).

Для оценки параметров уравнения множественной регрессии применяют МНК.

1. Оценка уравнения регрессии.

Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор s получается из выражения: s = (X^TX)^-1X^TY

К матрице с переменными X_j добавляем единичный столбец:

Матрица Y

Матрица X^T

Умножаем матрицы, (X^TX)

В матрице, (X^TX) число 15, лежащее на пересечении 1-й строки и 1-го столбца, получено как сумма произведений элементов 1-й строки матрицы X^T и 1-го столбца матрицы X

Умножаем матрицы, (X^TY)

Находим обратную матрицу (X^TX)^-1

Вектор оценок коэффициентов регрессии равен

Уравнение регрессии (оценка уравнения регрессии)

Y = 0.8 + 0.32X₁ + 0.65X₂ + 0.11X₃

2. Матрица парных коэффициентов корреляции R.

Число наблюдений n = 15. Число независимых переменных в модели равно 3, а число регрессоров с учетом единичного вектора равно числу неизвестных коэффициентов. С учетом признака Y, размерность матрицы становится равным 5. Матрица, независимых переменных Х имеет размерность (15 х 5).

Матрица, составленная из Y и X

Транспонированная матрица.

Матрица A^TA.

Полученная матрица имеет следующее соответствие:

Найдем парные коэффициенты корреляции.

Матрица парных коэффициентов корреляции R:

Коллинеарность – зависимость между факторами. В качестве критерия мультиколлинеарности может быть принято соблюдение следующих неравенств:

r(x_jy) > r(x_kx_j); r(x_ky) > r(x_kx_j).

Если одно из неравенств не соблюдается, то исключается тот параметр x_k или x_j, связь которого с результативным показателем Y оказывается наименее тесной.

Для отбора наиболее значимых факторов x_i учитываются следующие условия:

- связь между результативным признаком и факторным должна быть выше межфакторной связи;

- связь между факторами должна быть не более 0.7. Если в матрице есть межфакторный коэффициент корреляции r_xjxi > 0.7, то в данной модели множественной регрессии существует мультиколлинеарность.;

- при высокой межфакторной связи признака отбираются факторы с меньшим коэффициентом корреляции между ними.

Если факторные переменные связаны строгой функциональной зависимостью, то говорят о полной мультиколлинеарности. В этом случае среди столбцов матрицы факторных переменных Х имеются линейно зависимые столбцы, и, по свойству определителей матрицы, det(X^TX = 0).

Вид мультиколлинеарности, при котором факторные переменные связаны некоторой стохастической зависимостью, называется частичной. Если между факторными переменными имеется высокая степень корреляции, то матрица (X^TX) близка к вырожденной, т. е. det(X^TX ≧ 0) (чем ближе к 0 определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии).

Вычисление определителя показано в шаблоне решения Excel

В нашем случае r_{x2 x3} имеют |r|>0.7, что говорит о мультиколлинеарности факторов и о необходимости исключения одного из них из дальнейшего анализа.

Анализ первой строки этой матрицы позволяет произвести отбор факторных признаков, которые могут быть включены в модель множественной корреляционной зависимости. Факторные признаки, у которых |r_yxi| < 0.5 исключают из модели. Можно дать следующую качественную интерпретацию возможных значений коэффициента корреляции (по шкале Чеддока): если |r|>0.3 – связь практически отсутствует; 0.3 ≤ |r| ≤ 0.7 - связь средняя; 0.7 ≤ |r| ≤ 0.9 – связь сильная; |r| > 0.9 – связь весьма сильная.

Проверим значимость полученных парных коэффициентов корреляции с помощью t-критерия Стьюдента. Коэффициенты, для которых значения t-статистики по модулю больше найденного критического значения, считаются значимыми.

Рассчитаем наблюдаемые значения t-статистики для r_yx1 по формуле:

где m = 1 - количество факторов в уравнении регрессии.

По таблице Стьюдента находим Tтабл

t_крит(n-m-1;α/2) = (13;0.025) = 2.16

Поскольку t_набл < t_крит, то принимаем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - не значим

Рассчитаем наблюдаемые значения t-статистики для r_yx2 по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Рассчитаем наблюдаемые значения t-статистики для r_yx3 по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Таким образом, связь между (y и x_x2 ), (y и x_x3 ) является существенной.

Наибольшее влияние на результативный признак оказывает фактор x₂ (r = 0.92), значит, при построении модели он войдет в регрессионное уравнение первым.

Тестирование и устранение мультиколлинеарности.

Наиболее полным алгоритмом исследования мультиколлинеарности является алгоритм Фаррара-Глобера. С его помощью тестируют три вида мультиколлинеарности:

1. Всех факторов (χ² - хи-квадрат).

2. Каждого фактора с остальными (критерий Фишера).

3. Каждой пары факторов (критерий Стьюдента).

1. Проверим переменные на мультиколлинеарность методом Фаррара-Глоубера по первому виду статистических критериев (критерий "хи-квадрат").

Формула для расчета значения статистики Фаррара-Глоубера:

χ² = -[n-1-(2m+5)/6]ln(det[R]) = -[15-1-(2*3+5)/6]ln(0.00709) = 60.21

где m = 3 - количество факторов, n = 15 - количество наблюдений, det[R] - определитель матрицы парных коэффициентов корреляции R.

Сравниваем его с табличным значением при v = m/2(m-1) = 3 степенях свободы и уровне значимости α. Если χ² > χ_табл², то в векторе факторов присутствует мультиколлинеарность.

χ_табл²(3;0.05) = 7.81473

2. Проверим переменные на мультиколлинеарность по второму виду статистических критериев (критерий Фишера).

Определяем обратную матрицу D = R^-1:

Вычисляем F-критерии Фишера:

где d_kk - диагональные элементы матрицы.

Рассчитанные значения критериев сравниваются с табличными при v₁=n-m и v₂=m-1 степенях свободы и уровне значимости α. Если F_k > F_Табл, то k-я переменная мультиколлинеарна с другими.

v₁=15-3 = 12; v₂=3-1 = 2. F_Табл(12;2) = 19.4

Поскольку F₁ > F_табл, то переменная y мультиколлинеарна с другими.

Поскольку F₂ > F_табл, то переменная x₁ мультиколлинеарна с другими.

Поскольку F₃ > F_табл, то переменная x₂ мультиколлинеарна с другими.

Поскольку F₄ > F_табл, то переменная x₃ мультиколлинеарна с другими.

3. Проверим переменные на мультиколлинеарность по третьему виду статистических критериев (критерий Стьюдента). Для этого найдем частные коэффициенты корреляции.

Частные коэффициенты корреляции.

Коэффициент частной корреляции отличается от простого коэффициента линейной парной корреляции тем, что он измеряет парную корреляцию соответствующих признаков (y и x_i) при условии, что влияние на них остальных факторов (x_j) устранено.

На основании частных коэффициентов можно сделать вывод об обоснованности включения переменных в регрессионную модель. Если значение коэффициента мало или он незначим, то это означает, что связь между данным фактором и результативной переменной либо очень слаба, либо вовсе отсутствует, поэтому фактор можно исключить из модели.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx1 /x2} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

где k = 1 - число фиксируемых факторов.

По таблице Стьюдента находим Tтабл

t_крит(n-k-2;α/2) = (12;0.025) = 2.179

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₁ при условии, что x₂ войдет в модель, стала сильнее.

Теснота связи не сильная

Определим значимость коэффициента корреляции r_{yx1 /x3} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

где k = 1 - число фиксируемых факторов.

По таблице Стьюдента находим Tтабл

t_крит(n-k-2;α/2) = (12;0.025) = 2.179

Поскольку t_набл < t_крит, то принимаем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - не значим

Как видим, связь y и x₁ при условии, что x₃ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₁ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx2 /x1} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₂ при условии, что x₁ войдет в модель, стала сильнее.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx2 /x3} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₂ при условии, что x₃ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₂ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx3 /x1} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₃ при условии, что x₁ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx3 /x2} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₃ при условии, что x₂ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx2 /y}.

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₂ при условии, что y войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₂ остается нецелесообразным.

Теснота связи умеренная

Определим значимость коэффициента корреляции r_{yx2 /x3} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₂ при условии, что x₃ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₂ остается нецелесообразным.

Теснота связи умеренная

Определим значимость коэффициента корреляции r_{yx3 /y}.

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₃ при условии, что y войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx3 /x2} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₃ при условии, что x₂ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Теснота связи низкая. Межфакторная связь слабая.

Определим значимость коэффициента корреляции r_{yx3 /y}.

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл < t_крит, то принимаем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - не значим

Как видим, связь y и x₃ при условии, что y войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Теснота связи сильная

Определим значимость коэффициента корреляции r_{yx3 /x1} .

Для этого рассчитаем наблюдаемые значения t-статистики по формуле:

Поскольку t_набл > t_крит, то отклоняем гипотезу о равенстве 0 коэффициента корреляции. Другими словами, коэффициент корреляции статистически - значим

Как видим, связь y и x₃ при условии, что x₁ войдет в модель, снизилась. Отсюда можно сделать вывод, что ввод в регрессионное уравнение x₃ остается нецелесообразным.

Можно сделать вывод, что при построении регрессионного уравнения следует отобрать факторы x₂, x₃.

Модель регрессии в стандартном масштабе.

Модель регрессии в стандартном масштабе предполагает, что все значения исследуемых признаков переводятся в стандарты (стандартизованные значения) по формулам:

где х_ji - значение переменной х_ji в i-ом наблюдении.

Таким образом, начало отсчета каждой стандартизованной переменной совмещается с ее средним значением, а в качестве единицы изменения принимается ее среднее квадратическое отклонение S.

Если связь между переменными в естественном масштабе линейная, то изменение начала отсчета и единицы измерения этого свойства не нарушат, так что и стандартизованные переменные будут связаны линейным соотношением:

t_y = ∑β_jt_xj

Для оценки β-коэффциентов применим МНК. При этом система нормальных уравнений будет иметь вид:

r_x1y=β₁+r_x1x2•β₂ +... + r_x1xm•β_m

r_x2y=r_x2x1•β₁ + β₂ +... + r_x2xm•β_m

...

r_xmy=r_xmx1•β₁ + r_xmx2•β₂ +... + β_m

Для наших данных (берем из матрицы парных коэффициентов корреляции):

0.447 = β₁ + 0.149β₂ + 0.629β₃

0.92 = 0.149β₁ + β₂ + 0.77β₃

0.885 = 0.629β₁ + 0.77β₂ + β₃

Данную систему линейных уравнений решаем методом Гаусса: β₁ = 0.269; β₂ = 0.809; β₃ = 0.0926;

Стандартизированная форма уравнения регрессии имеет вид:

y⁰ = 0.269x₁ + 0.809x₂ + 0.0926x₃

Найденные из данной системы β–коэффициенты позволяют определить значения коэффициентов в регрессии в естественном масштабе по формулам:

3. Анализ параметров уравнения регрессии.

Перейдем к статистическому анализу полученного уравнения регрессии: проверке значимости уравнения и его коэффициентов, исследованию абсолютных и относительных ошибок аппроксимации

Для несмещенной оценки дисперсии проделаем следующие вычисления:

Несмещенная ошибка ε = Y - Y(x) = Y - X*s (абсолютная ошибка аппроксимации)

Средняя ошибка аппроксимации

Оценка дисперсии равна:

s_e² = (Y - X*Y(X))^T(Y - X*Y(X)) = 1.03

Несмещенная оценка дисперсии равна:

Оценка среднеквадратичного отклонения (стандартная ошибка для оценки Y):

Найдем оценку ковариационной матрицы вектора k = S² • (X^TX)^-1

Дисперсии параметров модели определяются соотношением S²_i = K_ii, т.е. это элементы, лежащие на главной диагонали

Показатели тесноты связи факторов с результатом.

Если факторные признаки различны по своей сущности и (или) имеют различные единицы измерения, то коэффициенты регрессии b_j при разных факторах являются несопоставимыми. Поэтому уравнение регрессии дополняют соизмеримыми показателями тесноты связи фактора с результатом, позволяющими ранжировать факторы по силе влияния на результат.

К таким показателям тесноты связи относят: частные коэффициенты эластичности, β–коэффициенты, частные коэффициенты корреляции.

Частные коэффициенты эластичности.

С целью расширения возможностей содержательного анализа модели регрессии используются частные коэффициенты эластичности, которые определяются по формуле:

Частный коэффициент эластичности показывает, насколько процентов в среднем изменяется признак-результат у с увеличением признака-фактора х_j на 1% от своего среднего уровня при фиксированном положении других факторов модели.

Частный коэффициент эластичности |E₁| < 1. Следовательно, его влияние на результативный признак Y незначительно.

Частный коэффициент эластичности |E₂| < 1. Следовательно, его влияние на результативный признак Y незначительно.

Частный коэффициент эластичности |E₃| < 1. Следовательно, его влияние на результативный признак Y незначительно.

Стандартизированные частные коэффициенты регрессии.

Стандартизированные частные коэффициенты регрессии - β-коэффициенты (β_j) показывают, на какую часть своего среднего квадратического отклонения S(у) изменится признак-результат y с изменением соответствующего фактора х_j на величину своего среднего квадратического отклонения (S_хj) при неизменном влиянии прочих факторов (входящих в уравнение).

По максимальному β_j можно судить, какой фактор сильнее влияет на результат Y.

По коэффициентам эластичности и β-коэффициентам могут быть сделаны противоположные выводы. Причины этого: а) вариация одного фактора очень велика; б) разнонаправленное воздействие факторов на результат.

Коэффициент β_j может также интерпретироваться как показатель прямого (непосредственного) влияния j -ого фактора (x_j) на результат (y). Во множественной регрессии j -ый фактор оказывает не только прямое, но и косвенное (опосредованное) влияние на результат (т.е. влияние через другие факторы модели).

Косвенное влияние измеряется величиной: ∑β_ir_xj,xi, где m - число факторов в модели. Полное влияние j-ого фактора на результат равное сумме прямого и косвенного влияний измеряет коэффициент линейной парной корреляции данного фактора и результата - r_xj,y.

Так для нашего примера непосредственное влияние фактора x₁ на результат Y в уравнении регрессии измеряется β_j и составляет 0.269; косвенное (опосредованное) влияние данного фактора на результат определяется как:

r_x1x2β₂ = 0.149 * 0.809 = 0.1202

Сравнительная оценка влияния анализируемых факторов на результативный признак.

5. Сравнительная оценка влияния анализируемых факторов на результативный признак производится:

- средним коэффициентом эластичности, показывающим на сколько процентов среднем по совокупности изменится результат y от своей средней величины при изменении фактора x_i на 1% от своего среднего значения;

- β–коэффициенты, показывающие, что, если величина фактора изменится на одно среднеквадратическое отклонение S_xi, то значение результативного признака изменится в среднем на β своего среднеквадратического отклонения;

- долю каждого фактора в общей вариации результативного признака определяют коэффициенты раздельной детерминации (отдельного определения): d²_i = r_yxiβ_i.

d²₁ = 0.45 • 0.269 = 0.12

d²₂ = 0.92 • 0.809 = 0.74

d²₃ = 0.88 • 0.0926 = 0.0819

При этом должно выполняться равенство:

∑d²_i = R² = 0.95

Множественный коэффициент корреляции (Индекс множественной корреляции).

Тесноту совместного влияния факторов на результат оценивает индекс множественной корреляции.

В отличии от парного коэффициента корреляции, который может принимать отрицательные значения, он принимает значения от 0 до 1.

Поэтому R не может быть использован для интерпретации направления связи. Чем плотнее фактические значения yi располагаются относительно линии регрессии, тем меньше остаточная дисперсия и, следовательно, больше величина R_y(x1,...,xm).

Таким образом, при значении R близком к 1, уравнение регрессии лучше описывает фактические данные и факторы сильнее влияют на результат. При значении R близком к 0 уравнение регрессии плохо описывает фактические данные и факторы оказывают слабое воздействие на результат.

Связь между признаком Y факторами X сильная

Расчёт коэффициента корреляции выполним, используя известные значения линейных коэффициентов парной корреляции и β-коэффициентов.

Коэффициент детерминации

R² = 0.947

Коэффициент детерминации.

R²= 0.973² = 0.947

4. Оценка значения результативного признака при заданных значениях факторов.

Y(0.0,0.0,0.0) = 0.8 + 0.32 * 0.0 + 0.65 * 0.0 + 0.11 * 0.0 = 0.8

V = X₀^T(X^TX)^-1X₀

где

X₀^T = [ 1; 0.0; 0.0; 0.0]

Умножаем матрицы X₀^T и (X^TX)^-1

Умножаем полученную матрицу на X₀, находим V = 3.28

Доверительные интервалы с вероятностью 0.95 для среднего значения результативного признака M(Y).

(Y – t*S_Y; Y + t*S_Y)

где t(15-3-1;0.05/2) = 2.201 находим по таблице Стьюдента.

(0.8 – 2.201*0.55; 0.8 + 2.201*0.55)

(-0.41;2.01)

C вероятностью 0.95 среднее значение Y при X_0i находится в указанных пределах.

Доверительные интервалы с вероятностью 0.95 для индивидуального значения результативного признака.

(0.8 – 2.201*0.63; 0.8 + 2.201*0.63)

(-0.59;2.19)

C вероятностью 0.95 индивидуальное значение Y при X_0i находится в указанных пределах.

5. Проверка гипотез относительно коэффициентов уравнения регрессии (проверка значимости параметров множественного уравнения регрессии).

Число v = n - m - 1 называется числом степеней свободы. Считается, что при оценивании множественной линейной регрессии для обеспечения статистической надежности требуется, чтобы число наблюдений, по крайней мере, в 3 раза превосходило число оцениваемых параметров.

1) t-статистика

T_табл (n-m-1;α/2) = (11;0.025) = 2.201

Находим стандартную ошибку коэффициента регрессии b₀:

Статистическая значимость коэффициента регрессии b₀ не подтверждается.

Находим стандартную ошибку коэффициента регрессии b₁:

Статистическая значимость коэффициента регрессии b₁ подтверждается.

Находим стандартную ошибку коэффициента регрессии b₂:

Статистическая значимость коэффициента регрессии b₂ подтверждается.

Находим стандартную ошибку коэффициента регрессии b₃:

Статистическая значимость коэффициента регрессии b₃ не подтверждается.

Доверительный интервал для коэффициентов уравнения регрессии.

Определим доверительные интервалы коэффициентов регрессии, которые с надежность 95% будут следующими:

(b_i - t_i S_bi; b_i + t_i S_bi)

b₀: (0.8 - 2.201 • 0.55; 0.8 + 2.201 • 0.55) = (-0.42;2.02)

b₁: (0.32 - 2.201 • 0.14; 0.32 + 2.201 • 0.14) = (0.00219;0.64)

b₂: (0.65 - 2.201 • 0.12; 0.65 + 2.201 • 0.12) = (0.39;0.91)

b₃: (0.11 - 2.201 • 0.22; 0.11 + 2.201 • 0.22) = (-0.37;0.59)

6. Проверка общего качества уравнения множественной регрессии.

Оценка значимости уравнения множественной регрессии осуществляется путем проверки гипотезы о равенстве нулю коэффициент детерминации рассчитанного по данным генеральной совокупности: R² или b₁ = b₂ =... = b_m = 0 (гипотеза о незначимости уравнения регрессии, рассчитанного по данным генеральной совокупности).

Для ее проверки используют F-критерий Фишера.

При этом вычисляют фактическое (наблюдаемое) значение F-критерия, через коэффициент детерминации R², рассчитанный по данным конкретного наблюдения.

По таблицам распределения Фишера-Снедоккора находят критическое значение F-критерия (Fкр). Для этого задаются уровнем значимости α (обычно его берут равным 0,05) и двумя числами степеней свободы k₁=m и k₂=n-m-1.

2) F-статистика. Критерий Фишера.

Чем ближе этот коэффициент к единице, тем больше уравнение регрессии объясняет поведение Y.

Более объективной оценкой является скорректированный коэффициент детерминации:

Добавление в модель новых объясняющих переменных осуществляется до тех пор, пока растет скорректированный коэффициент детерминации.

Проверим гипотезу об общей значимости - гипотезу об одновременном равенстве нулю всех коэффициентов регрессии при объясняющих переменных:

H₀: R² = 0; β₁ = β₂ =... = β_m = 0.

H₁: R² ≠ 0.

Проверка этой гипотезы осуществляется с помощью F-статистики распределения Фишера (правосторонняя проверка).

Если F < F_kp = F_{α; n-m-1}, то нет оснований для отклонения гипотезы H₀.

Табличное значение при степенях свободы k₁ = 3 и k₂ = n-m-1 = 15 - 3 - 1 = 11, Fkp(3;11) = 3.59

Отметим значения на числовой оси.

Поскольку фактическое значение F > Fkp, то коэффициент детерминации статистически значим и уравнение регрессии статистически надежно

Оценка значимости дополнительного включения фактора (частный F-критерий).

Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличить долю объясненной вариации результативного признака. Это может быть связано с последовательностью вводимых факторов (т. к. существует корреляция между самими факторами).

Мерой оценки значимости улучшения качества модели, после включения в нее фактора х_j, служит частный F-критерий – F_xj:

где m – число оцениваемых параметров.

В числителе - прирост доли вариации у за счет дополнительно включенного в модель фактора х_j.

Если наблюдаемое значение F_xj больше F_kp, то дополнительное введение фактора x_j в модель статистически оправдано.

Частный F-критерий оценивает значимость коэффициентов «чистой» регрессии (b_j). Существует взаимосвязь между частным F-критерием - F_xj и t-критерием, используемым для оценки значимости коэффициента регрессии при j-м факторе: