Линейная регрессионная модель со многими переменными.

В простейшем случае анализируется линейная зависимость у от х. Уравнение множественной линейной регрессии (аддитивная модель) имеет вид

у=a₀+a₁х₁ +a₂х₂ +…+a_mх_m+e. (3.1)

Если имеется n наблюдений факторов х и переменной у, то отклонение зависимой переменной у в j-м наблюдении от линии регрессии

e_j= у_j – a₀ – a₁х_j1 – a₂х_j2 – … – a_mх_jm (j=1,2,…, n).

На втором этапе для оставшихся факторов применяется метод наименьших квадратов. Метод наименьших квадратов предполагает поиск коэффициентов a_i таких, что Q=åe_j²®min. Для отыскания минимума берутся частные производные Q по искомым параметрам (мы использовали этот метод в случае однофакторной регрессии для нахождения a₀ и a₁) и приравниваются к нулю. После выполнения элементарных преобразований получают так называемую систему нормальных уравнений, из которой и находятся искомые параметры.

Система нормальных уравнений для многофакторной регрессии имеет вид:

a₀ + a_{1 1} + a_{2 2} + … + a_{m m} = ,

a_{0 1} + a₁ + a₂ + … + a_m = , (3.2)

……………………………………………..

a₀ + a₁ + a₂ + … + a_m = .

Для решения системы (3.2) можно использовать любой метод решения системы линейных уравнений (Гаусса, Крамера и пр.). Оцененное уравнение описывает как общий тренд (тенденцию) изменения зависимой переменной у, так и отклонения от этого тренда. Проблема здесь состоит не только в том, чтобы объяснить возможно большую долю колебаний переменной у, но и отделить влияние каждого из факторов.