Влияние изменения масштаба измерения переменных на коэффициенты регрессии

Масштаб измерения переменных может быть натуральным и стандартизированным [5].

Параметры уравнения множественной регрессии оцениваются, как и в парной регрессии, методом наименьших квадратов. При его применении строится система нормальных уравнений, решение которой и позволяет получить оценки параметров регрессии [6].

Так для уравнения:

 

 

система нормальных уравнений составит:

 

(1.4)

 

Как правило, прежде чем найти параметры уравнения множест­венной регрессии, определяют и анализируют парные коэффици­енты корреляции, которые рассчитываются по формулам:

 

,

 

=

 

При этом систему нормальных уравнений мож­но видоизменить таким образом, чтобы при вычислении параметров регрессии использовать уже найденные парные коэф­фициенты корреляции. Для этого в уравнении регрессии заменяют переменные у, х₁, х₂, ..., x_p переменными t_j, полученными следующим образом:

 

 

 

Для которых среднее значение равно нулю, а среднеквадратическое отклонение равно единице [1].

Эта процедура называется стандартизацией переменных.В резуль­тате осуществляется переход от натурального масштаба переменных х_p к центрированным и нормированным отклонениям t_j [1].

При переходе к стандартизированному масштабу переменных уравнение множественной регрессии принимает вид:

 

 

где –– стандартизированные переменные;

–– стандартизированный коэффициент регрессии [2].

Применяя метод наименьших квадратов к уравнению множественной регрессии в стандартизованном масштабе, после соответствующих преобразований получим систему нормальных уравнений вида:

 

 

В парной зависимости стандартизированный коэффициент регрессии есть не что иное, как линейный коэффициент корреляции [1].

Подобно тому, как в парной зависимости коэффициенты регрессии и корреляции связаны между собой, так и во множественной регрессии коэффициенты регрессии связаны со стандартизированными коэффициентами регрессии а именно:

Это позволяет от уравнения регрессии в стандартизированном масштабе:

 

перейти к уравнению регрессии в натуральном масштабе переменных:

 

Параметр a определяется по формуле:

 

 

Рассмотренный смысл стандартизированных коэффициентов регрессии позволяет их использовать при отсеве факторов, из модели исключаются факторы с наименьшим значением [1].

Таким образом, величина коэффициента регрессии при измерении переменных в натуральном масштабе, показывает среднее изменение результата с изменением фактора на одну единицу, а - коэффициент характеризует изменение исследуемого показателя в зависимости от изменения одного фактора при постоянном уровне остальных. Величина коэффициента регрессии при измерении переменных в стандартизированном масштабе показывает на какую часть сигмы ( ) изменилось бы значение результата, если бы соответствующий j-фактор изменился на сигму ( ). Кроме того, -коэффициенты позволяют оценить степень воздействия факторных признаков на результат [2].