Анализ уравнения парной линейной регрессии

Тема3. Предпосылки метода наименьших квадратов

Регрессионный анализ позволяет определить оценки коэффициентов регрессии. Но оценки не позволяют сделать вывод, насколько точно эмпирическое уравнение регрессии соответствует уравнению для всей генеральной совокупности, насколько близки оценки и коэффициентов к своим теоретическим прототипам и , как близко оцененное значение к условному математическому ожиданию , насколько надежны найденные оценки. Для ответа на эти вопросы необходимы дополнительные исследования.

Значения зависят от значений и случайных отклонений . Следовательно, переменная является СВ, напрямую связанной с . До тех пор, пока не будет определенности в вероятностном поведении , мы не сможем быть уверенными в качестве оценок.

Известно, что для получения по МНК наилучших результатов необходимо, чтобы выполнялся ряд предпосылок относительно случайного отклонения.

Предпосылки МНК (условия Гаусса—Маркова)

1. Математическое ожидание случайного отклонения , равно нулю: для всех наблюдений.

Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом конкретном наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систематического смещения. Выполнимость влечет выполнимость

.

2. Дисперсия случайных отклонений постоянна: для любых наблюдений .

Условие независимости дисперсии ошибки от номера наблюдения гомоскедастичностью (homoscedasticity). Невыполнимость данной предпосылки называется гетероскедастичностью (heteroscedasticity).

Поскольку , то данную предпосылку можно переписать в форме: . Причины невыполнимости данной предпосылки и проблемы, связанные с этим, подробно рассматриваются ниже.

3. Случайные отклонения и являются независимыми друг от друга для .

Выполнимость данной предпосылки предполагает, что отсутствует систематическая связь между любыми случайными отклонениями. Величина и определенный знак любого случайного отклонения не должны быть причинами величины и знака любого другого отклонения.

Выполнимость данной предпосылки влечет следующее соотношение:

Поэтому, если данное условие выполняется, то говорят об отсутствии автокорреляции. С учетом выполнимости предпосылки 1 данное соотношение может быть переписано в виде:

Причины невыполнимости данной предпосылки и проблемы, связанные с этим, рассматриваются ниже.

4. Случайное отклонение должно быть независимо от объясняющих переменных.

Обычно это условие выполняется автоматически, если объясняющие переменные не являются случайными в данной модели.

Данное условие предполагает выполнимость следующего соотношения:

Следует отметить, что выполнимость данной предпосылки не столь критична для эконометрических моделей.

5. Модель является линейной относительно параметров.

Для случая множественной линейной регрессии существенными являются еще две предпосылки.

6. Отсутствие мультиколлинеарности.

Между объясняющими переменными отсутствует строгая (сильная) линейная зависимость.

7. Cлучайные отклонения имеют нормальное распределение.

Выполнимость данной предпосылки важна для проверки статистических гипотез и построения интервальных оценок.

Наряду с выполнимостью указанных предпосылок при построении классических линейных регрессионных моделей делаются еще некоторые предположения. Например:

• объясняющие переменные не являются СВ;

• число наблюдений существенно больше числа объясняющих переменных;

• отсутствуют ошибки спецификации;

Теорема Гаусса-Маркова.

Если предпосылки 1- 5 выполнены, то оценки, полученные по МНК, обладают следующими свойствами:

1. Оценки являются несмещенными, т.е. , . Это вытекает из того, что , и говорит об отсутствии систематической ошибки в определении положения линии регрессии.

2. Оценки состоятельны, так как дисперсия оценок параметров при возрастании числа наблюдений стремится к нулю . Другими словами, при увеличении объема выборки надежность оценок увеличивается ( наверняка близко к , - близко к ).

3. Оценки эффективны, т.е. они имеют наименьшую дисперсию по сравнению с любыми другими оценками данных параметров, линейными относительно величин .

Дата добавления: 2015-06-28