Оценка качества уравнения регрессии
После того как найдено уравнение регрессии, проводится оценка значимости как уравнения в целом, так и отдельных его параметров.
Проверить значимость уравнения регрессии – значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной.
Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, определяют среднюю ошибку аппроксимации:
. (2.12)
где - индивидуальная ошибка аппроксимации.
Если - модель отличного качества; если - модель хорошего качества; если - удовлетворительная модель; если - необходимо строить другую модель.
Оценка значимости уравнения регрессии в целом производится на основе -критерия Фишера, которому предшествует дисперсионный анализ. В математической статистике дисперсионный анализ рассматривается как самостоятельный инструмент статистического анализа. В эконометрике он применяется как вспомогательное средство для изучения качества регрессионной модели.
Согласно основной идее дисперсионного анализа, общая сумма квадратов отклонений переменной от среднего значения раскладывается на две части – «объясненную» и «необъясненную»:
,
где – общая сумма квадратов отклонений;
– факторная сумма квадратов отклонений (сумма квадратов отклонений, объясненная регрессией);
– остаточная сумма квадратов отклонений.
Любая сумма квадратов отклонений связана с числом степеней свободы df, т. е. с числом свободы независимого варьирования признака. Число степеней свободы связано с числом единиц совокупности n и с числом определяемых по ней констант. Разделив каждую сумму квадратов на соответствующее число степеней свободы, получим дисперсию на одну степень свободы.
Схема дисперсионного анализа имеет вид, представленный в таблице 2.1 (– число наблюдений, – число параметров при переменной ).
Таблица 2.1
Компоненты дисперсии | Сумма квадратов | Число степеней свободы | Дисперсия на одну степень свободы |
Общая | |||
Факторная | |||
Остаточная |
Определение дисперсии на одну степень свободы приводит дисперсии к сравнимому виду. Сопоставляя факторную и остаточную дисперсии в расчете на одну степень свободы, получим величину -критерия Фишера:
. (2.13)
Оценивание качества модели по F-критерию Фишера состоит в проверке гипотезы H0 о статистической незначимости уравнения регрессии. Для этого наблюдаемое значение -критерия Фишера (2.13) сравнивается с критическим (табличным) значением при уровне значимости и степенях свободы и . Уровень значимости α – вероятность отвергнуть гипотезу при условии что она верна. Обычно принимается равной 0,05 или 0,01.
Если Fнабл > Fкр, то признается статистическая значимость и надежность уравнения регрессии. Если Fнабл < Fкр, то признается статистическая незначимость и ненадежность уравнения регрессии.
Величина -критерия связана с коэффициентом детерминации , и ее можно рассчитать по следующей формуле:
. (2.14)
Для парной линейной регрессии , поэтому
. (2.15)
Для оценки статистической значимости параметров уравнения регрессии применяется t-распределение Стьюдента. Величина параметра сравнивается с его стандартной ошибкой, т.е. определяется наблюдаемое (фактическое) значение -критерия Стьюдента:
, (2.16)
которое затем сравнивается с критическим (табличным) значением при уровне значимости и числе степеней свободы .
Стандартные ошибки параметров линейной регрессии определяются по формулам:
, (2.17)
. (2.18)
где – остаточная дисперсия на одну степень свободы. (2.19)
Если |tнабл| > tкр, то параметр bj признается статистически значимым. Если |tнабл| < tкр, то признается статистическая незначимость параметра bj.
Величина стандартной ошибки совместно с -распределением Стьюдента применяется для расчета доверительного интервала параметров регрессии:
. (2.20)
Поскольку знак коэффициента регрессии b1 указывает на рост результативного признака при увеличении факторного признака (), уменьшение результативного признака при увеличении признака-фактора () или его независимость от независимой переменной () (см. рис. 2.3), то границы доверительного интервала для коэффициента регрессии не должны содержать противоречивых результатов, например, . Такого рода запись указывает, что истинное значение коэффициента регрессии одновременно содержит положительные и отрицательные величины и даже ноль, чего не может быть.
Рисунок 2.4 - Наклон линии регрессии в зависимости от значения параметра
Связь между F-критерием Фишера и t-критерием Стьюдента выражается равенством:
. (2.21)
В прогнозных расчетах по уравнению регрессии определяется предсказываемое значение как точечный прогноз при , т.е. путем подстановки в уравнение регрессии соответствующего значения . Однако точечный прогноз явно нереален, поэтому он дополняется интервальной оценкой прогнозного значения :
, (2.22)
где – средняя ошибка прогнозируемого индивидуального значения y:
. (2.23)