Несмещённые оценки дисперсии ошибок, ковариационной матрицы и дисперсии выборочных коэффициентов регрессии

Теорема Гаусса – Маркова

Если регрессионная модель (1) удовлетворяет условиям 1–4, 6, то МНК - оценка (8) имеет наименьшую дисперсию в классе всех линейных несмещённых оценок (является наиболее эффективной).

Несмещённость оценки b следует из выражения (11). Наибольшая эффективность оценки доказывается с использованием выражения (12) путём рассмотрения любых других несмещённых линейных оценок и определения того факта, что их дисперсии всегда больше дисперсии (12).

Несмещённая оценка дисперсии ошибок (несмещённая выборочная остаточная дисперсия определяется выражением)

(13)

Как видно из (13), несмещённая оценка дисперсии получается путём деления остаточной суммы квадратов на степеней свободы, поскольку - число наблюдений, а степени свободы теряются при определении коэффициентов уравнения регрессии.

Несмещённая оценка матрицы ковариации вектора коэффициентов b получается путём замены в (12) неизвестного значения дисперсии возмущения его оценкой (13):

(14)

откуда следует. что несмещённые оценки дисперсий коэффициентов находятся по формуле

(15)

где - j – й диагональный элемент матрицы .

Из формулы (15) вытекает выражение для стандартных отклонений оценок коэффициентов регрессии (несмещённых оценок средних квадратных отклонений ):

(16)

Дата добавления: 2014-01-20