Парные коэффициенты корреляции

Коэффициенты корреляция

Включаемые во множественную регрессию факторы должны объяснить вариацию зависимой переменной. Насыщение модели лишними факторами приводит к статистической незначимости параметров регрессии по t -критерию Стьюдента. Несмотря на то, что теоретически регрессионная модель позволяет учесть любое число факторов, практически в этом нет необходимости. Отбор факторов производится на основе качественного теоретико-экономического анализа. Однако теоретический анализ часто не позволяет однозначно ответить на вопрос о количественной взаимосвязи рассматриваемых признаков и целесообразности включения фактора в модель. Поэтому отбор факторов обычно проводится в две стадии: на первой отбираются факторы исходя из сути проблемы; на второй – на основе матрицы показателей корреляции и определения t -статистики для параметров регрессии.

Коэффициенты интеркорреляции (т.е. корреляции между объясняющими переменными) позволяют исключать из модели дублирующие факторы. Считается, что две переменных явно коллинеарны, т.е. находятся между собой в линейной зависимости, если r_xixj ³ 0,7.

Поскольку одним из условий построения уравнения множественной регрессии является независимость действия факторов, т.е. R_xixj = 0, коллинеарность факторов нарушает это условие. Если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами. В этом требовании проявляется специфика множественной регрессии как метода исследования комплексного воздействия факторов в условиях их независимости друг от друга.

Пример 3.2. При изучении зависимости y = f (x, z, v) матрица парных коэффициентов корреляции оказалась следующей:

	y	x	z	v
y
x	0,8
z	0,7	0,8
v	0,6	0,5	0,2

Очевидно, что факторы x и z дублируют друг друга. В анализ целесообразно включить фактор z, а не x, так как корреляция z, с результатом y слабее, чем корреляция фактора x с y (r_yz < r_yx), но зато слабее межфакторная корреляция r_zv < r_{xv .} Поэтому в данном случае в уравнение множественной регрессии включаются факторы z, и v.

По величине парных коэффициентов корреляции обнаруживается лишь явная коллинеарность факторов. Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов, когда более чем два фактора связаны между собой линейной зависимостью, т.е. имеет место совокупное воздействие факторов друг на друга. Наличие мультиколлинеарности факторов может означать, что некоторые факторы всегда будут действовать в унисон. В результате вариация в исходных данных перестает быть полностью независимой и нельзя оценить воздействие каждого фактора в отдельности.

Для оценки факторов может использоваться определитель матрицы парных коэффициентов корреляции между факторами.

Если бы факторы не коррелировали между собой, то матрицы парных коэффициентов корреляции между ними была бы единичной, поскольку все недиагональные элементы r_xixj (x_i ¹ x_j) были бы равны нулю. Так, для уравнения, включающего три объясняющих переменных,

y = a + b ₁ × x ₁ + b ₂ × x ₂ + b ₃ × x₃ + e,

матрица коэффициентов корреляции между факторами имела бы определитель, равный единице

,

поскольку r_x1x1 = r_x2x2 = r_x3x3 = 1 и r_x1x2 = r_x1x3 = r_x2x3 = 0.

Если же между факторами существует полная линейная зависимость и все коэффициенты корреляции равны единице, то определитель такой матрицы равен нулю

.

Чем ближе к нулю определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И, наоборот, чем ближе к единице определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов.

Через коэффициенты множественной детерминации можно найти переменные, ответственные за мультиколлинеарность факторов. Для этого в качестве зависимой переменной рассматривается каждый из факторов. Чем ближе значение коэффициента множественной детерминации к единице, тем сильна проявляется мультиколлинеарность факторов. Сравнивая между собой коэффициенты множественной детерминации факторов R ² _{x 1ï x 2 x 3… xp}; R ² _{x 2ï x 1 x 3… xp} и т.п., можно выделить переменные, ответственные за мультиколлинеарность, следовательно, можно решать проблему отбора факторов, оставляя в уравнении факторы с минимальной величиной коэффициента множественной детерминации.

Имеется ряд подходов преодоления сильной межфакторной корреляции. Самый простой из них состоит в исключении из модели одного или нескольких факторов. Одним из путей учета внутренней корреляции факторов является переход к совмещенным уравнениям регрессии, т.е. к уравнениям, которые отражают не только влияние факторов, но и их взаимодействие. Так, если y = f (x ₁, x ₂, x ₃). то можно построить следующее совмещенное уравнение:

y = a + b ₁ × x ₁ + b ₂ × x ₂ + b ₃ × x ₃ + b ₁₂ × x ₁ × x ₂ + b ₁₃ × x ₁ × x ₃ + b ₂₃ × x ₂ × x ₃ + e.

Рассматриваемое уравнение включает эффект взаимодействия первого порядка. Можно включать в модель и взаимодействие более высоких порядков, если будет доказана его статистическая значимость, например включение взаимодействия второго порядка b ₁₂₃ × x ₁× x ₂ × x ₃ и т.д. Как правила, взаимодействие третьего и более высоких порядков оказывается статистически незначимым; совмещенные уравнения регрессии ограничиваются взаимодействием первого и второго порядков. Но и оно может оказаться несущественным. Тогда нецелесообразно включать в модель взаимодействие всех факторов и всех порядков. Так, если анализ совмещенного уравнения показал значимость только взаимодействия факторов x ₁×и x ₃, то уравнение будет иметь вид:

y = a + b ₁ × x ₁ + b ₂ × x ₂ + b ₃ × x ₃ + b ₁₃ × x ₁ × x ₃ + e.

Взаимодействие факторов x ₁×и x ₃ означает, что на разных уровнях фактора x ₃ влияние фактора x ₁×на y будет неодинаково, т.е. оно зависит от значений фактора x ₃.

Наиболее широкое применение получили следующие методы отбора факторов и построения уравнения множественной регрессии:

– метод исключения;

– метод включения;

– шаговый регрессионный анализ.

На первый взгляд может показаться, что матрица парных коэффициентов корреляции играет главную роль в отборе факторов. Вместе с тем вследствие взаимодействия факторов парные коэффициенты корреляции не могут в полной мере решать вопрос о целесообразности включения в модель того или иного фактора. Эту роль выполняют показатели частной корреляции, оценивающие в чистом виде тесноту связи фактора с результатом. Матрица частных коэффициентов корреляции наиболее широко используется в процедуре отсева факторов.

Отсев факторов можно проводить и по t -критерию Стьюдента для коэффициентов регрессии: из уравнения исключаются факторы с величиной t -критерия меньше табличного. Так, например, уравнение регрессии составило:

y = 25 + 5 x ₁ + 3 x ₂ + 4 x ₃ + e.

(4,0) (1,3) (6,0)

В скобках приведены фактические значения t -критерия для соответствующих коэффициентов регрессии, как правило, при t < 2 коэффициент регрессии незначим и, следовательно, рассматриваемый фактор не должен присутствовать в регрессионной модели. В данном случае – это фактор x ₂.

При отборе факторов рекомендуется пользоваться следующим правилом: число включаемых факторов обычно в 6-7 раз меньше объема совокупности, по которой строится регрессия. Если это соотношение нарушено, то число степеней свободы остаточной вариации очень мало. Это приводит к тому, что параметры уравнения регрессии оказываются статистически незначимыми, а F -критерий меньше табличного значения.

Как было показано выше, ранжирование факторов, участвующих в множественной линейной регрессии, может быть проведено через стандартизованные коэффициенты регрессии (b -коэффициенты). Эту же цель можно достичь с помощью частных коэффициентов корреляции для линейных связей. При нелинейной взаимосвязи исследуемых признаков эту функцию выполняют частные индексы детерминации. Кроме того, частные показатели корреляции широко используются при отборе факторов: целесообразность включения того или иного фактора в модель доказывается величиной показателя частной корреляции.

Дата добавления: 2014-01-03