Нормальная линейная модель парной регрессии

Нормальная, или классическая, линейная модель парной реn грессии (регрессии с одной переменной) строится исходя из слеГ дующих предположений:

1) факторный признак xi является неслучайной или детермиn

;

i

нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e

2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:

e

E(i)=0,

где i =1, n;

3) дисперсия случайной ошибки уравнения регрессии являетn ся постоянной для всех наблюдений:

e

e

i

D (i)=E(2)= G 2=const;

4) случайные ошибки уравнения регрессии не коррелированы между собой, т. е. ковариация случайных ошибок любых двух разных наблюдений равна нулю:

e

e

e

e

Cov (i, j)=E(i j)=0, где i ¹ j.

Это предположение верно в том случае, если изучаемые данные не являются временными рядами;

5) основываясь на 3 и 4nм предположениях, добавляется услоn вие о том, что случайная ошибка уравнения регрессии являетn ся случайной величиной, подчиняющейся нормальному закоn ну распределения с нулевым математическим ожиданием и дисперсией

e

G 2/ i ~ N (0, G 2).

Исходя из указанных предпосылок нормальную линейную моГ дель парной регрессии можно записать в следующем виде:

b

b

e

yi = 0+ 1 xi + i, (1)

где yi —значениязависимойпеременной, i =1, n; xi — значения независимой переменной;

0 1

b, b — коэффициенты уравнения регрессии, подлежащие

оценке;

e

i — случайная ошибка уравнения регрессии.

ç ÷

ç ÷

ç

ç

ç

ç

÷

÷

÷

Матричная форма нормальной линейной модели парной регрессии:

Y = b X + e, (2)

где

æ y ö

ç ÷

=

ç ÷

è ø

Y ç y 2÷ ç yn ÷

— вектор значений зависимой переменной размер ности n ´ 1;

æ1 X = 1

è

ç1

x 1ö x 2 ÷

÷

xn ø

— вектор значений независимой переменной размерности n ´ 2. Первый столбец является единичным, так как в уравнении регрессии паn

раметр b умножается на 1;

æ ö

b

è ø

b=çb ÷1

ç ÷

=

æeöeçe÷

ç ÷

e

ç ÷ è n ø

— вектор коэффициентов уравнения регресn сии размерности 2 ´ 1;

— вектор случайных ошибок уравнения регресn сии размерности n ´ 1.

Предположения о модели, записанные в матричном виде:

1) факторный признак x является неслучайной или детермиn нированной величиной, не зависящей от распределения слуn чайной ошибки уравнения регрессии e;

2) математическое ожидание случайной ошибки уравнения регрессии равно нулю во всех наблюдениях:

æ ö

ç ÷

ç0÷

e

ç ÷

E()= =0;

ç ÷

è0ø

3) предположения о том, что дисперсия случайной ошибки уравнения регрессии является постоянной для всех наблюдеn ний и ковариация случайных ошибок любых двух разных набn

G

ç

.

÷

÷

÷

ç

÷

e

ç

÷

e

ç

людений равна нулю, можно записать с помощью ковариациn онной матрицы случайных ошибок нормальной линейной моn дели парной регрессии:

æ 2

ç

S = 0

ç

ç 0

0 0ö G 2 0÷

÷

0 G 2ø

(3)

è

Данную ковариационную матрицу можно преобразовать следуюГ

щим образом:

æ1

G

S = 2ç0

ç

0ö

= I

0÷ G 2 n,

÷

è

ø

где G2 — дисперсия случайной ошибки уравнения регрессии e; I n — единичная матрица размерности n ´ n.

Ковариация — это показатель тесноты связи между изучаемыn

ми переменными, которая вычисляется по формуле:

Cov (x, y)= x y − x y,

где xy — среднее арифметическое значение произведения факторного и результативного признаков:

å

n

i

xiy xy = i =1 n.

На диагонали ковариационной матрицы случайных ошибок нормальной линейной модели парной регрессии располагаетn ся дисперсия случайных ошибок, так как ковариация переn менной с самой собой равна дисперсии переменной. Таким образом:

e

e

,

Cov (e)= G 2();

4) случайная ошибка уравнения регрессии имеет нормальный закон распределения:

e

~ N (0, G 2I n).

å

å

å

å

ЛЕКЦИЯ № 3. Методы оценивания

Дата добавления: 2013-12-12