Мультиколлинеарность

Под мультиколлинеарностью понимается высокая коррелированность между объясняющими переменными х. Она может проявляться в функциональной (явной) и стохастической (скрытой) формах. При функциональной форме мультиколлинеарности хотя бы одна из парных связей между переменными х называется линейной функциональной зависимостью. При скрытой форме между двумя объясняющими переменными существует сильная корреляционная связь.

При наличии мультиколлинеарности уравнения регрессии не имеют реального смысла. В этом случае параметры b₀, b₁,…, b_p не значимы по t-критерию, хотя в целом модель может оказаться значимой по F-критерию.

Точных количественных критериев для определения наличия или отсутствия мультиколлинеарности не существует. Тем не менее, используются некоторые эвристические подходы по ее выявлению:

1. Анализ корреляционной зависимости между объясняющими переменными х₁, х₂, …, х_p и выявление пар переменных, имеющих высокие коэффициенты корреляции (>0,8). Если такие переменные выявлены, то говорят о мультиколлинеарности между ними.

2. Определение множественных коэффициентов детерминации между одной из объясняющих переменных и некоторой их группой. Если множественные коэффициенты детерминации >0,6, то это свидетельствует о наличии мультиколлинеарности.

3. Исследования матрицы Х'X. Если определитель матрицы близок к 0, то это признак мультиколлинеарности.

Для устранения или уменьшения мультиколлинеарности используют ряд методов. Самый простой из них заключается в том, что из двух переменных х, между которыми имеется высокий коэффициент корреляции, одна переменная исключается из рассмотрения.

Какую из переменных убрать, а какую оставить, решают из экономических соображений.

Другой метод устранения мультиколлинеарности основан на переходе к смещенным оценкам, но такой метод более трудоемок.

Одним из возможных методов устранения или уменьшения мультиколлинеарности является пошаговая процедура отбора наиболее информативных переменных. На первом шаге рассматривается лишь одна переменная х, имеющая с у наибольший коэффициент детерминации. На втором шаге в регрессию включается новая объясняющая переменная и рассчитывается скорректированный коэффициент детерминации для у, х₁, х₂. На третьем шаге вводится еще одна переменная х и рассчитывается коэффициент детерминации уже для этого количества переменных. Процедура ввода новых переменных продолжается до тех пор, пока увеличивается коэффициент детерминации R².

Пример. По данным 5 сельскохозяйственных районов исследуем зависимость урожайности зерновых культур у от ряда переменных: х₁ – число тракторов, х₂ – число комбайнов, х₃ – число орудий для обработки почвы, х₄ – количество удобрений, х₅ – количество средств защиты растений. Все показатели рассчитаны на 1 гектар.

Таблица 6

Исходные данные

Проведем процедуру пошагового отбора переменных в модель множественной регрессии. Для этого необходимо составить таблицу парных коэффициентов корреляции между у и 5 переменными х и между самими переменных х. Коэффициенты корреляции будем рассчитывать по формуле:

Составим расчетную таблицу.

Таблица 7

Составим еще одну таблицу.

Таблица 8

Рассчитаем S_y:

1,67;

=0,59; =0,01; =0,794; =0,217; =0,183.

Рассчитаем r и сведем их в таблицу 9.

Таблица 9

= -0,5;

= -0,88;

= -0,45;

=0,008;

= -0,65;

-0,15;

0,31;

-0,146;

-0,31;

0,575;

-0,23;

0,03;

-0,87;

0,018;

0,313.

На первом шаге в модель включаются у и переменная х₂, так как между ними самый высокий коэффициент корреляции.

Рассчитаем для этих переменных коэффициент:

= -0,88.

Коэффициент детерминации R²=0,774.

Среди возможных пар переменных выбираем ту пару, которая имеет с переменной у также наибольший коэффициент корреляции. Выбираем переменную х₅ и рассчитываем множественный. Для нахождения определим коэффициенты b.

Рассчитав предварительно,, …, на основе данной системы построим матрицу:

Рассчитаем определитель данной матрицы:

Δ=6,915*10^-5;

Δ₁=0,00103;

Δ₂= -0,00012;

Δ₃=0,000321;

Δ₄= -6,9*10^-5;

Δ₅= -0,000133;

Δ₆= -0,00049.

Определим b:

b₀=14,927;

b₁= -1,754;

b₂=4,636;

b₃= -0,997;

b₄= -1,919;

b₅= -7,1.

= (-0,88)*4,636+(-0,65)*(-7,1) = 0,535.

Значит, уже на втором шаге значение R² начало снижаться, значит, дальнейшее добавление переменных не имеет смысла и модель должна состоять из у и х₁.

Дата добавления: 2014-01-07