Учебные вопросы
Москва
Дисциплина: Эконометрика
КОНСПЕКТ ЛЕКЦИИ № 2
на тему: «Модель множественной линейной регрессии»
Автор: С.В. Суржик, доцент, к.э.н., доцент
1. Задача построения множественной линейной регрессии.
2. Оценка качества модели множественной линейной регрессии.
3. Прогнозирование по модели множественной линейной регрессии.
1.В общем случае зависимая переменная у может быть функцией нескольких переменных: х1, х2, …, хm.
В каждом наблюдении (i) получают совокупность значений независимой переменной: хi1, xi2 ,…, xim и совокупность значений зависимой переменной уi. Итак, допустим,
yi = α1xi1 + α2xi2 +…+αmxim + εi. (1)
Введем матричные обозначения.
Пусть {αj}, j = 1,…, m – вектор неизвестных параметров; Y = {yi}, i =1,...,n
- вектор зависимой переменной; X = (xij) – матрица независимых переменных размером nm; ε = {εi}- вектор ошибок.
Тогда линейная модель (1) перепишется в виде
Y = Xα + ε (2)
Относительно ошибок ε сделаем следующие предположения:
1) возмущение ε является случайной величиной;
2) М(ε) = 0;
3) Д(ε) = const;
4) последовательные значения ε не зависят друг от друга;
5) матрица Х состоит из линейно-независимых векторов-столбцов.
Последнее обстоятельство эквивалентно тому, что ранг матрицы Х равен m, а это, в свою очередь, означает, что |X′X| ≠ 0, т.е. матрица X′X обратима (X′ - транспонированная для Х).
Матрица Х не содержит ошибок.
Таким образом, для определения вектора анеобходимо по данным наблюдений найти матрицу, обратную к матрице Х′X, и вектор Х′Y:
Обычно предполагается, что уравнение регрессии имеет свободный член, т.е. а0. Чтобы получить оценку этого параметра, расширим матрицу (6), введя в нее переменную Хi0 = 1.
Тогда матрицу Х в развернутом виде можно записать так:
Тогда
И
В частном случае, когда m=2, имеем