Как избавиться от эффекта разной размерности переменных факторов?

Интерпретация коэффициентов регрессии

Чем отличается множественная регрессия от простой линейной?

Множественная регрессия.

Уравнение множественной регрессии — это определенная модель порождения данных. Важные допущения, принимаемые в этой модели, касаются уже известного вам требования линейности, а также аддитивности суммарного эффекта независимых переменных. Последнее означает, что воздействия разных независимых переменных просто суммируются, а не, скажем, перемножаются (мультипликативный эффект, в отличие от аддитивного, имеет место тогда, когда величина воздействия одной независимой переменной на зависимую, в свою очередь, находится под влиянием другой независимой переменной, т. е. независимые переменные взаимодействуют друг с другом).

Отличие множественной регрессии от простой линейной состоит в том, что регрессия осуществляется по двум и более независимым переменным (факторам) одновременно, причем каждая из них входит в регрессионное уравнение с коэффициентом, позволяющим предсказать значения зависимой переменной с минимальным количеством ошибок. Коэффициенты регрессии в уравнении множественной регрессии показывают, какой будет величина воздействия соответствующей независимой переменной на зависимую при контроле влияния других независимых переменных. Если воспользоваться простейшей системой обозначений, то уравнение множественной регрессии для трех независимых переменных можно записать как:

Y= a + b₁X₁+b₂X₂+b₃X₃

Где Y — это предсказываемое значение зависимой переменной, X₁... Х₃ — независимые переменные, а b₁,... b₃ — частные коэффициенты регрессии для каждой из зависимых переменных.

Коэффициенты b могут быть интерпретированы как показатели влияния каждой из независимых переменных на зависимую при контроле всех других независимых переменных в уравнении. В отличие от коэффициентов корреляции коэффициенты регрессии обладают размерностью. Они показывают, на сколько единиц изменится зависимая переменная при увеличении независимой на одну единицу (при контроле всех остальных переменных модели). Пусть, например, мы построили уравнение множественной регрессии, описывающее зависимость дохода от интеллекта (X₁) и стажа работы (Х₂). Если величина b₁ оказалась равной 100, это означает, что каждый дополнительный балл по шкале интеллекта увеличивает доход на 100 рублей. Значение b₂ = 950 говорит нам, что год стажа прибавляет 950 рублей.

Оценки интеллекта и стажа измерены в разных единицах. Для определения сравнительной значимости независимых переменных, входящих в уравнение множественной регрессии, мы должны подвергнуть все переменные стандартизации.

Что такое стандартизация?

Для любого унимодального симметричного распределенияне менее 56% наблюдений будут попадать в промежуток ±1 стандартное отклонение от среднего арифметического значе­ния, для ±3 стандартных отклонений внутри указанного интервала окажут­ся не менее 95% наблюдений.

Стандартное отклонение — это показатель положе­ния любого конкретного значения относительно среднего, поэтому часто воз­никает необходимость выразить первичные значения переменных (баллы теста, величины дохо­да и т. п.) в единицах стандартного отклонения от среднего. Получаемые в ре­зультате оценки называют стандартными, или Z-оценками.

Для любой совокупности из N наблюдений распределение со средним X и стандартным отклонением S_x можно преобразовать в распределение со средним, равным 0, и стандартным отклонением, равным 1. Преобразованные таким образом переменные будут непосредственно выражаться в отклонениях первичных значений от среднего, измеренных в единицах стандартного отклонения. Чтобы осуществить такое преобразование, нужно из каждого значения X вы­честь среднее и разделить полученную величину на стандартное отклонение, т. е. Z-оценки получают по простой формуле:

Дата добавления: 2015-07-02