План лекции. Лекция 5. Корреляция и регрессия

Лекция 5. Корреляция и регрессия

5.1. Стохастическая связь случайных величин

5.2. Линейная регрессия

5.1. СТОХАСТИЧЕСКАЯ СВЯЗЬ СЛУЧАЙНЫХ ВЕЛИЧИН

Зависимость величины Y от Х называется функциональной, если , где - известная функция аргумента Х. Если Х детерминированная (неслучайная) величина, то и Y будет детерминированной величиной. А если Х – случайная величина, то и Y - случайная величина.

В своей деятельности мы довольно часто встречаемся с зависимыми величинами. Так большинство законов физики и многих других дисциплин формулируются именно в виде некоторых функциональных зависимостей. К примеру, закон Ома для участка цепи: ; второй закон Ньютона: .

Однако в окружающем нас мире гораздо чаще встречается стохастическая (вероятностная) зависимость величин Х и Y. В этом случае каждому фиксированному значению Х (Х – детерминированная или случайная величина) соответствует множество значений случайной величины Y. Более частое появление стохастической зависимости Х и Y объясняется тем, что на формирование величины Y, кроме контролируемого фактора (величины Х), действует множество случайных неконтролируемых факторов. Поэтому Y и является случайной величиной.

Предположим, что существует стохастическая зависимость Y от Х, и зафиксируем значение последней величины: Х = х. Величина Y в силу ее стохастической зависимости от Х может принять любое значение из некоторого множества. Можно вычислить среднее значение этого множества называется условным математическим ожиданием случайной величины Y при Х = х. Для случайных непрерывных и дискретных величин эти условные математические ожидания находятся по формулам:

. (5.1)

Использованные здесь понятия условной плотности вероятности и условной вероятности были рассмотрены в предыдущем разделе.

Функция , описывающая изменение условного математического ожидания случайной величины Y при изменении значений х величины Х, называется функцией регрессии, или регрессией Y по Х. График этой функции называется линией регрессии. Соответственно, функцию называют регрессией Х по Y.

если при изменении х условные математические ожидания изменяются, то говорят, что имеет место кор-реляционная зависимость y от х. если же, то говорят, что между y и х нет корреляционной зависимости.

Степень стохастической связи случайных величин Х и Y иллюстрируется на рис. 5.1, где координаты каждой точки являются значениями измеренного двумерного вектора (Х, Y).

Рис. 5.1 а иллюстрирует наличие тесной корреляционной связи (зависимости) между Х и Y, ибо разброс значений случайной величины Y при Х = х невелик. На рис. 5.1 б изображена ситуация, характерная для слабой корреляционной связи Х и Y, поскольку разброс значений Y при Х = х значителен. Рис. 5.1 в иллюстрирует случай, когда корреляционная связь между Х и Y практически отсутствует.

а) y * б) y * * в) y * *

* * * * * * * *

* * * * * *

* * * * *

* * * * *

* *

0 х 0 х 0 х

Рис. 5.1

Некоторую информацию о корреляционной зависимости случайных величин Х и Y дает их коэффициент корреляции – безразмерная величина, определяемая по формуле

, (5.2)

где - центрированные случайные величины (случайные величины с нулевыми математическими ожиданиями), а - средние квадратические отклонения случайных величин Х и Y.

Коэффициент корреляции обладает следующими четырьмя свойствами.

- 1. , что непосредственно вытекает из формулы (5.2).

- 2. . Чтобы доказать это, рассмотрим заведомо неотрицательное математическое ожидание квадрата суммы Х ⁰ + l Y ⁰ с произвольным l:

- .

- Заключительное неравенство свидетельствует о том, что квадратный трёхчлен относительно параметра l принимает только неотрицательные значения. Как известно, это бывает, когда дискриминант меньше или равен нулю, т.е. . Отсюда следует, что , или .

3. Условие (т.е. ) является необходимым и достаточным для того, чтобы случайные величины Х и Y были связаны линейной зависимостью, т.е. , где а и b – некоторые числа. При этом предполагается, что , иначе , и не существовал бы коэффициент корреляции .

Докажем необходимость этого условия. Действительно, пусть Y = aX + + b. Тогда . Далее, . Вычислим коэффициент корреляции:

,

т.е. при а > 0 и при а < 0.

Докажем достаточность условия для линейной зависимости Х и Y. Для этого вычислим следующую дисперсию:

.

При эта дисперсия равна нулю, из чего следует (см. первое свойство дисперсии), что . Записав последнее равенство в виде , получаем доказываемый результат: .

- 4. Если случайные величины Х и Y независимы, то . Действительно, в этом случае центрированные случайные величины и будут независимыми, поэтому . Отсюда следует, что .

- Заметим, что обратное утверждение неверно, а именно: если , то нельзя утверждать, что случайные величины Х и Y независимы. И доказательством этого факта может служить решение следующей задачи.

З а д а ч а. Рассматриваются случайные величины и , где - случайная величина равномерно распределенная на отрезке . Найти .

Р е ш е н и е. Заметим, что величины Х и Y зависимые, ибо между ними существует функциональная зависимость . Найдем М (Х) и М (Y):

Следовательно, центрированные случайные величины равны: Х ⁰ = Х – 0 = cos j, Y ⁰ = Y ¾ 0 = sin j. А математическое ожидание их произведения оказывается равным нулю:

.

Величины и можно уже не вычислять, т.к. .

В ы в о д. Коэффициент корреляции случайных величин Х и Y может равняться нулю, но при этом Х и Y будут зависимыми.

Дата добавления: 2014-01-11