Отбор факторов, включаемых в модель множественной регрессии

Методы отбора факторов. При построении моделей множественной регрессии одним из важнейших этапов является отбор факторов, воздействующих на результирующий признак. Обычно он происходит в два этапа:

I. Содержательный анализ факторов. Выделяют те факторы, которые существенно влияют на результат.

II. Расчет количественных оценок, позволяющих оценить влияние факторов на результат и друг на друга. На их сновании проводится окончательный отбор факторов. Здесь могут использоваться различные методы отбора факторов, например:

а) использование парных коэффициентов корреляции;

б) использование парных частных коэффициентов корреляции;

в) расчет вкладов факторов в объясненную дисперсию;

г) и т.п.

Рассмотрим более подробно использование парных коэффициентов корреляции.

Матрица парных коэффициентов линейной корреляции. Пусть в модели множественной регрессии предполагается использовать n признаков-факторов x₁, x₂, …, x_n, а y – результативный признак. Тогда для этих переменных может быть построена матрица парных коэффициентов линейной корреляции, или корреляционная матрицу, которая по своей сути представляет совокупность коэффициентов корреляции между всеми возможными парами признаков:

(1.6)

Эта матрица всегда симметрична относительно главной диагонали, а члены матрицы, стоящие на этой диагонали, равны 1, поскольку представляют собой корреляцию признака с самим собой.

Анализ корреляционной матрицы позволяет выявить факторы, тесно связанные между собой, т.е. коллинеарные.

Коллинеарностьфакторов – это тесная линейная связь между двумя переменными. Считается, что переменные явно коллинеарны, если коэффициент корреляции между ними по модулю превышает 0,7.

При наличии коллинеарных признаков один из них нужно исключить из модели, чтобы между оставшимися факторами не было тесных связей. Разумеется, здесь речь идет именно о связи между признаками факторами x₁, x₂, …, x_n. Коэффициенты корреляции между результатом y и факторами x₁, x₂, …, x_n должны быть как можно ближе к единице по модулю, т.е. связь между ними должна быть тесной.

Мультиколлинеарностьфакторов – это тесная линейная связь между несколькими переменными, коллинеарность многих факторов.

По парным коэффициентам корреляции можно заметить лишь явную коллинеарность факторов. Чтобы оценить мультиколлинеарность всех факторов, имеет смысл построить матрицу парных коэффициентов корреляции между факторами (матрицу межфакторной корреляции) и рассчитать ее определитель. Эта матрица может быть легко получена из корреляционной матрицы вычеркиванием первых строки и столбца (соответствующих признаку-результату).

Очевидно, что новая матрица в случае полного отсутствия корреляции между факторами будет еди­ничной матрицей (все недиагональные элементы равнялись бы нулю), и ее определитель равнялся бы единице. В противоположном случае, т.е. если бы между факторами была полная линей­ная зависимость, все элементы новой матрицы равнялись бы 1, и ее определитель был бы равен 0. Таким образом, чем ближе определитель такой матрицы к нулю, тем сильнее мультиколлинеарность факторов.

Мультиколлинеарность факторов отрицательно сказывается на качестве модели, поскольку:

1) из-за связи между факторами затрудняется оценка влияния отдельных факторов на результат, что затрудняет интерпретацию параметров регрессии,

2) может привести к включению в модель лишних параметров;

3) уменьшается точность оценок коэффициентов регрессии, растет дисперсия оценок и стандартные ошибки;

4) завышается коэффициент множественной корреляции (см. далее).

Требованиям к факторам, включаемым в модель множественной регрессии. Таким образом, основными требованиями к факторам, включаемым в модель множественной регрессии, являются следующие:

1) их существенное влияние на результативный признак;

2) отсутствие мультиколлинеарности;

3) количественная измеримость факторов. Если в модель включается качественный фактор, для него необходимо разработать количественную шкалу измерения, например, балльную, либо использовать фиктивные переменные (см. далее).

Коэффициент множественной корреляции. Тесноту линейной связи между результатом и всеми признаками-факторами можно измерить с помощью множественного коэффициента корреляции, который для линейной модели можно рассчитать по формуле:

(1.7)

где Δ_м.п.к.к. – определитель матрицы парных коэффициентов корреляции;

Δ_м.м-ф.к. – определитель матрицы межфакторной корреляции.

Этот показатель будет более подробно рассмотрен в дальнейшем при изучении оценки качества модели.

Дата добавления: 2014-01-07