Й учебный вопрос. Множественная линейная регрессия

ТЕКСТ ЛЕКЦИИ.

Введение — до 5 мин.

Содержание и методические рекомендации:

- довести установку занятия через рассматриваемые учебные вопросы;

- охарактеризовать место и значение данной темы в курсе;

- описать обстановку, в которой разрабатывалась теоретическая проблема и шла ее практическая реализация.

Основная часть — до 90 минут на обзор содержания, детальное изучение материала отводится на самостоятельную подготовку обучающегося.

При множественном регрессионном анализе используется, как правило, уравнение линейной множественной регрессии (113)

(113)

где - оценка значения результирующего показателя , a₀, a₁ …a_m – параметры данного уравнения, значения которых являются неизвестными.

Значения этих параметров находится с помощью метода наименьших квадратов, целевая функция которого имеет вид (114)

(114)

Функция является функцией для того, чтобы найти неизвестные значения параметров , необходимо функцию продифференцировать по переменным , а полученные соотношения приравнять нулю.

В этом случае получаем соотношения (115)

………………...

(115)

Решая эту систему управлений, находятся неизвестные значения параметров . Перед тем, как определять значения параметров, необходимо оценивать коррелированность различных факторов между собой.

Для этого берутся два отдельно взятых фактора, например . Для них находится значение коэффициента линейной парной корреляции . Если с помощью значения данного коэффициента мы приходим к выводу о некоррелированности факторов , то они оба остаются в уравнении линейной множественной регрессии. Если же мы приходим к выводу о наличии тесной связи между факторами , то один из этих факторов исключается из уравнения линейной множественной регрессии, а другой остается в этом уравнении.

Для того, чтобы выбрать какой из факторов - - оставить в уравнении, а какой исключить, следует использовать следующий подход. В соответствии с ним определяются значения коэффициентов линейной парной корреляции между факторами и результирующим показателем.

В том случае, если выполняется соотношение , то в уравнении остается фактор , а исключается фактор . В том случае, если выполняется соотношение , то в уравнении остается фактор ,а исключается фактор .

В итоге попарно рассматриваются все факторы и находится k совокупность факторов, независимых между собой, при этом .

По окончанию решения задачи, связанной с определением неизвестных значений параметров уравнения линейной множественной регрессии, можно найти значение коэффициента линейной парной корреляции , используя для этого формулу (116)

(116)

Формально по формуле (116) находится значение коэффициента линейной парной корреляции между результирующим показателем y_n, , и его оценкой . По сути дела с помощью формулы находится значение коэффициента линейной множественной корреляции между результирующим показателем y_n, , и всей совокупностью рассматриваемых факторов x_1n, x_{2n, …} x_kn, . Это обусловлено тем, что оценка результирующего показателя , существенно зависит от полноты используемой совокупности факторов.

Таким образом, если значение подтверждает тесную связь между результирующим показателем y_n, , и его оценкой , можно говорить о полноте используемой исходной совокупности факторов. Одновременно, это свидетельствует о том, что задача, связанная с определением значений параметров уравнения линейной множественной регрессии, решена достаточно точно.

Включение в уравнение множественной регрессии того или иного набора факторов связано прежде всего с представлением исследователя о природе взаимосвязи моделируемого показателя с другими экономическими явлениями. Факторы, включаемые во множественную регрессию, должны отвечать следующим требованиям:

1) быть количественно измеримыми;

2) не должны быть коррелированны между собой и тем боле находиться в точной функциональной связи.

Наличие между двумя факторами весьма тесной линейной связи (парный коэффициент корреляции r_хх превышает по абсолютной величи­не 0,7) называется коллинеарностью, а между несколькими факто­рами — мультиколлинеарностью.

Мультиколлинеарность – это нестрогая линейная зависимость между факторными признаками, которая приводит к следующим нежелательным последствиям:

1. Оценки параметров становятся ненадежными, они обнаруживают большие стандартные ошибки, малую значимость, в то же время модель является значимой, т.е. значение множественного коэффициента корреляции завышено;

2. Небольшое изменение исходных данных приводит к существенному изменению оценок параметров модели;

3. Оценки параметров модели имеют неправильные знаки или неоправданно большие значения, что делает модель непригодной для анализа и прогнозирования;

4. Становится невозможным определить изолированное влияние факторов на результативный показатель.

В наибольшей степени ответственным за мультиколлинеарность будет тот признак, который теснее связан с другими факторами модели (он имеет высокие по модулю значения коэффициентов парной линейной корреляции). Поэтому, если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами.

Пример. Проверим наличие мультиколлинеарности между факторами х₁ (возраст, лет), х₂ (стаж работы, лет), х₃ (выработка шт./смену ), которые могут оказывать влияние на результативный признак - заработная плата. Для этого построим корреляционную матрицу. Из матрицы видно, что между признаками имеется довольно сильная линейная зависимость, т.к. . Вследствие этого требуется устранить один из факторов.

Таблица 2.11

	y	x1	x2	х3
y
x1	0,853056
x2	0,849877	0,935263
x3	0,778766	0,615448	0,69661

Из модели следует исключить фактор х₂, т.к. он теснее связан с третьим фактором, чем фактор х₁: .

Как правило, прежде чем найти параметры уравнения множест­венной регрессии, определяют и анализируют парные коэффици­енты корреляции:

.

При этом систему нормальных уравнений мож­но видоизменить таким образом, чтобы при вычислении параметров регрессии использовать уже найденные парные коэф­фициенты корреляции. Для этого в уравнении регрессии заменяют переменные у, х₁, х₂,..., x_k переменными t_i, полученными следую­щим образом:

Эта процедура называется стандартизацией переменных. В резуль­тате осуществляется переход от натурального масштаба переменных х_ij к центрированным и нормированным отклонениям t_{ij .} В стандартизированном масштабе среднее значение признака равно 0, а среднее квадратическое отклонение равно 1, т.е. .

При переходе к стандартизированному масштабу переменных уравнение множественной регрессии принимает вид:

,

где (j = 1, k) — стандартизированные коэффициенты регрессии.

-коэффициент характери­зует изменение исследуемого показателя в зависимости от изме­нения одного фактора при постоянном уровне остальных. Иначе, -коэффициент показывает, на какую часть сигмы () изменилось бы значение результата, если бы соответствующий j -фактор изменился на сигму (), а прочие факторы не измени­лись бы.

Кроме того, -коэффициенты позволяют оценить степень воз­действия факторных признаков на результат. В силу того что все -коэффициенты выражены в одинаковых единицах измерения, то если ₂ > ₃, тогда фактор х₂ сильнее влияет на результативный признак, чем фактор х₃.

К уравнению множественной регрессии в стандартизованном масштабе применяется МНК. -коэффициенты определяются из следующей системы уравнений:

Связь коэффициентов множественной регрессии b_i со стандартизованными коэффициентами описывается соотношением . Параметр а определяется как.

В двухфакторном регрессионном анализе найти уравнение регрессии в стандартизированном масштабе можно через формулы:

, .

На основе линейного уравнения множественной регрессии:

могут быть найдены частные уравнения регрессии:

В отличие от парной регрессии частные уравнения регрессии характеризуют изолированное влияние фактора на результат, ибо другие факторы закреплены на неизменном среднем уровне. Это позволяет на основе частных уравнений регрессии определять частные коэффициенты эластичности:

где b_j – коэффициент регрессии при j- омфакторе;

- частное уравнение регрессии.

Для того чтобы оценить сравнительную силу влияния факторов, по каждому фактору рассчитывают средние коэффициенты элас­тичности:

,

где — среднее значение j -го факторного признака;

— среднее значение результативного признака;

— коэффициент регрессии при j-м факторном признаке.

Расчет коэффициента эластичности дополняет экономический анализ. Данный коэффициент показывает, на сколько процентов следует ожидать изменения результативного показателя при изме­нении фактора на 1% и неизменном значении других факторов.

Практическая значимость уравнения множественной регрессии оценивается с помощью показателя множественной корреляции и его квадрата – коэффициента детерминации. Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком, или оценивает тесноту совместного влияния на результат.

Независимо от формы связи показатель множественной корреляции может быть найден как индекс множественной корреляции:

где — общая дисперсия результативного признака;

— остаточная дисперсия, характеризующая отклонения фактических уровней результативного признака y_i отрассчитанных по уравне­нию множественной регрессии .

При линейной зависимости признаков формула индекса корреляции может быть представлена следующим выражением:

Формула индекса множественной корреляции для линейной регрессии получила название линейного коэффициента множественной корреляции или совокупного коэффициента корреляции.

При линейной форме связи расчет совокупного коэффици­ента корреляции можно также выполнить, используя парные коэффи­циенты корреляции:

где b₁, b₂,..., b_k — параметры уравнения множественной регрессии

в натуральном масштабе.

Наряду с измерением совместного влияния отобранных факто­ров на результативный признак важно определить воздействие каж­дого фактора при элиминировании его взаимосвязи с остальными (что возможно, когда последние зафиксированы на постоянном уровне). Для решения данной задачи при линейной связи применяют частные коэффициенты корреляции, а для нелинейной - частные индексы детерминации.

В общем виде при наличии k факторов для уравнения:

коэффициент частной корреляции, измеряющий влияние на у фактора х_i при неизменном уровне других факторов, можно определить по формуле:

,

где - множественный коэффициент детерминации всего комплекса

факторов с результатом;

- тот же показатель детерминации, но без введения в модель фактора х_k.

Дата добавления: 2014-01-14