МНК оценки коэффициентов линейной парной регрессии

Рассмотрим простейшую модель . Величина у рассматривается как зависимая переменная, состоящая из двух частей: неслучайной составляющей , где х – объясняющая переменная, и - параметры, - случайный член. Имеется несколько причин включения случайного члена.

1. Невключение объясняющих переменных. Соотношение между х и у является упрощением, и существуют другие факторы, влияющие на у. Или переменные, которые мы хотели бы включить, не можем измерить их, например, психологический фактор. Или мы просто не знаем пока какие ещё переменные влияют на у.

5. Агрегирование переменных. Во многих случаях рассматриваемая зависимость – это попытка объединить вместе некоторое число микроэкономических соотношений. Например, функция суммарного потребления, т.е. объединение решений многих индивидов. Наблюдаемое расхождение объясняет случайный член.

6. Неправильное описание структуры. Структура модели неправильна или не вполне правильна. Например, у зависит не от фактического х, а от у_t-1 – предыдущего значения, при этом может казаться, что между х и у существует связь. Расхождения при этом описываются .

7. Неправильная функциональная спецификация. Математически зависимость х и у описывается не так. Например, зависимость не является линейной.

8. Ошибки измерения. Неизбежны.

Таким образом, является суммарным проявлением всех этих причин.

Рассмотрим задачу «наилучшей» аппроксимации набора наблюдений Х _t и У_t, линейной функцией в смысле минимизации функционала . Необходимое условие экстремума:

,

или в стандартной форме нормальных уравнений:

или

Решение системы можно записать в виде

, .

Получим значения и в отклонениях, т.е. пусть

x_t = X_t - , y_t = Y_t - . Можно показать, что = = 0. Замена X_t, Y_t на x_t, y_t означает перенос системы координат, а прямая останется прежней. После замены получим:

= 0, .

Часто удобно перейти к стандартизованному масштабу:

, .

Уравнение регрессии в стандартизованном масштабе примет вид: ,

где . Связь между обычным и стандартизованным масштабом выражается следующим образом:

, .

И, наконец, коэффициенты регрессии могут быть определены с помощью ППП Excel, Statgraphic.

Параметр называют коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Формально - значение у при х = 0. Если х не имеет и не может иметь нулевого значения, то у = не имеет смысла. Параметр может не иметь экономического содержания, и попытка его интерпретировать может привести к абсурду. Интерпретировать можно лишь знак : если > 0, то относительное изменение результата происходит медленнее, чем изменение фактора.

Пример. Предположим по группе предприятий, выпускающих один и тот же вид продукции, рассматривается функция издержек . Информация, необходимая для расчета и дана в таблице.

№ предприятия
Выпуск продукции, х
Затраты на производство, у

Решение.

1) По данным таблицы определим: , , , , .

2) =

Уравнение регрессии примет вид: у = -5,789 + 36,842 х.

5. Геометрическая интерпретация МНК. Матричная форма определения коэффициентов.

Рассмотрим n-мерное векторное пространство Rⁿ со стандартным евклидовым скалярным произведением

(Х,У) = Х^ТУ = . Пусть

, , , , .

Здесь и - числовые коэффициенты, - вектор, лежащий в плоскости, образованной векторами S и Х (естественно, что S и Х неколлинеарны, т.е. у Х не все числа одинаковы). Задача состоит в отыскании таких и , чтобы длина вектора е была минимальна. Очевидно, что решением является такой вектор , для которого вектор е перпендикулярен плоскости, образованной S и Х. Для этого необходимо, чтобы

, и или ,

т.е. опять пришли к стандартным нормальным уравнениям. Обозначим теперь

, , , условие ортогональности е плоскости (S,X) запишется так Х^Те = 0 или Х^Т(У - Х) = Х^ТУ - Х^ТХ= 0 Х^ТУ = Х^ТХи

.

Нетрудно проверить, что все соотношения для и совпадают.

Дата добавления: 2014-01-20