Нормальная линейная модель парной регрессии

 

Нормальная, или классическая, линейная модель парной реn грессии (регрессии с одной переменной) строится исходя из слеГ дующих предположений:

1) факторный признак xiявляется неслучайной или детермиn

 

 

 

;

i

нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e

2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:

 

e

E( i)=0,

 

 

где i=1,n;

 

3) дисперсия случайной ошибки уравнения регрессии являетn ся постоянной для всех наблюдений:

 

e

e

i

D( i)=E( 2)=G2=const;

 

4) случайные ошибки уравнения регрессии не коррелированы между собой, т. е. ковариация случайных ошибок любых двух разных наблюдений равна нулю:

 

e

e

e

e

Cov( i, j)=E( i j )=0, где i ¹ j.

Это предположение верно в том случае, если изучаемые данные не являются временными рядами;

5) основываясь на 3 и 4nм предположениях, добавляется услоn вие о том, что случайная ошибка уравнения регрессии являетn ся случайной величиной, подчиняющейся нормальному закоn ну распределения с нулевым математическим ожиданием и дисперсией

 

e

G2/ i~N(0,G2).

 

 

Исходя из указанных предпосылок нормальную линейную моГ дель парной регрессии можно записать в следующем виде:

 

b

b

e

yi= 0+ 1xi+ i, (1)

 

где yi—значениязависимойпеременной,i=1,n; xi— значения независимой переменной;

0 1

b, b — коэффициенты уравнения регрессии, подлежащие

 

оценке;

 

e

i— случайная ошибка уравнения регрессии.

 

ç ÷

ç ÷

ç

ç

ç

ç

÷

÷

÷

 

Матричная форма нормальной линейной модели парной регрессии:

 

 

Y = b X + e, (2)

 

 

где

 

æyö

 

ç ÷

=

ç ÷

è ø

Y çy2÷ çyn÷

 

 

— вектор значений зависимой переменной размер ности n ´ 1;

 

æ1X = 1

è

ç1

x1ö x2 ÷

÷

xnø

 

— вектор значений независимой переменной размерности n ´ 2. Первый столбец является единичным, так как в уравнении регрессии паn

раметр b умножается на 1;

 

 

æ ö

b

è ø

b=çb ÷1

 

ç ÷

=

æeöeçe÷

ç ÷

e

ç ÷ è nø

— вектор коэффициентов уравнения регресn сии размерности 2 ´ 1;

 

 

— вектор случайных ошибок уравнения регресn сии размерности n ´ 1.

 

 

Предположения о модели, записанные в матричном виде:

 

1) факторный признак x является неслучайной или детермиn нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e;

2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:

 

æ ö

ç ÷

ç0÷

 

e

ç ÷

E( )= =0;

 

ç ÷

è0ø

 

3) предположения о том, что дисперсия случайной ошибки уравнения регрессии является постоянной для всех наблюдеn ний и ковариация случайных ошибок любых двух разных набn

 

 

G

ç

.

÷

÷

÷

ç

÷

e

ç

÷

e

ç

 

людений равна нулю, можно записать с помощью ковариациn онной матрицы случайных ошибок нормальной линейной моn дели парной регрессии:

 

æ 2

 

ç

S = 0

 

ç

ç 0

0 0ö G2 0÷

÷

0 G2ø

 

 

(3)

 

 

è

Данную ковариационную матрицу можно преобразовать следуюГ

 

щим образом:

æ1

 

G

S = 2ç0

 

ç

 

 

 

 

0ö

 

= I

0÷ G2n,

 

÷

 

è

ø

где G2— дисперсия случайной ошибки уравнения регрессии e; In— единичная матрица размерности n ´ n.

Ковариация — это показатель тесноты связи между изучаемыn

 

ми переменными, которая вычисляется по формуле:

 

Cov(x, y)=x y−x y,

 

 

где xy — среднее арифметическое значение произведения факторного и результативного признаков:

 

å

n

 

i

xiy xy= i=1n .

 

На диагонали ковариационной матрицы случайных ошибок нормальной линейной модели парной регрессии располагаетn ся дисперсия случайных ошибок, так как ковариация переn менной с самой собой равна дисперсии переменной. Таким образом:

 

e

e

,

Cov(e )=G2( );

 

4) случайная ошибка уравнения регрессии имеет нормальный закон распределения:

 

e

~N(0,G2In).

å

å

å

å

 

ЛЕКЦИЯ № 3. Методы оценивания