Элементы теории корреляции

Во многих задачах требуется установит и оценить зависимость изучаемой случайной величины, например, Y от одной или нескольких других случайных величин.

Две случайные величины могут быть связаны либо функциональной зависимостью, либо статистической зависимостью, либо быть независимыми.

Строгая функциональная зависимость реализуется очень редко.

Статистической называют зависимость, при которой изменение одной из величин влечет изменение распределения другой.

Если статистическая зависимость проявляется в том, что при изменении одной из величин изменяется среднее значение другой, то такая зависимость называется корреляционной.

Условным средним называют среднее арифметическое наблюдавшихся значений случайной величины Y, соответствующих значению х случайной величины Х, т.е. Х = х.

Например, если при х ₁ = 2 величина Y приняла значения у ₁= 5, у ₂= 6, у ₃= 10, то условное среднее = = 7.

Условным средним называют среднее арифметическое наблюдавшихся значений величины Х, соответствующих значению Y = y.

Условное среднее является функцией от х, т.к. при изменении х будет изменяться . Обозначим ее через . В результате получим уравнение

= .

Это уравнение называют выборочным уравнением регрессии Y на Х; функцию называют выборочной регрессией Y на Х, а ее график выборочной линией регрессии Y на Х.

Аналогично, уравнение

=

называют выборочным уравнением регрессии Х на Y; функцию называют выборочной регрессией Х на Y, а ее график выборочной линией регрессии Х на Y.

Выборочное уравнение прямой линии регрессии по несгруппированным данным

Пусть изучается система количественных признаков (Х, Y). Пусть в результате п независимых опытов получены п пар чисел (х ₁, у ₁), (х ₂, у ₂), …, (х_п, у_п). По этим наблюдениям найдем выборочное уравнение прямой линии регрессии Y на Х:

= = kx + b.

Так как различные значения х признака Х и соответствующие им значения у признака Y наблюдались по одному разу, то группировать данные нет необходимости. Так же нет надобности использовать понятие условной средней. Поэтому искомое уравнение можно записать в виде

Y = kx + b

или

Y = x + b, (1)

где − выборочный коэффициент регрессии Y на Х.

Рассмотрим разность (отклонение)

Y_i – y_i,

где Y_i – вычисленная по уравнению (1) ордината, соответствующая наблюдаемому значению х_i; y_i - наблюдаемая ордината, соответствующая наблюдаемому значению х_i.

Чем меньше отклонение Y_i – y_i, тем ближе точки (х ₁, у ₁), (х ₂, у ₂), …, (х_п, у_п), построенные по данным наблюдений, на плоскости ХОY к прямой (1).

Подберем параметры и b так, чтобы сумма квадратов отклонений была минимальной (в этом состоит сущность метода наименьших квадратов). Для этого построим функцию

F (, b) =

или

F (, b) =

Для отыскания минимума функции приравняем нулю частные производные

Выполнив элементарные преобразования, получим систему двух линейных уравнений относительно и b:

(2)

Решив эту систему, найдем искомые параметры и b, а значит, и выборочное уравнение прямой линии регрессии Y на Х:

Y = x + b.

Аналогично можно найти выборочное уравнение прямой линии регрессии Х на Y:

Х = у + с,

где − выборочный коэффициент регрессии Х на Y.

Пример. Найти выборочное уравнение прямой линии регрессии Y на Х по данным, п = 5, наблюдений:

х 1 1,5 3 4,5 5

у 1,25 1,4 1,5 1,75 2,25.

□

xi	yi		xiyi
	1,25		1,25
1,5	1,4	2,25	2,1
	1,5		4,5
4,5	1,75	20,25	7,875
	2,25		11,25
=15	=8,15	=57,5	=26,975

Составим расчетную таблицу:

По данным суммирования составим систему уравнений

Решая систему, найдем

= 0,202, b = 1,024.

Искомое уравнение регрессии:

Y = 0,202 x + 1,024.

Для того, чтобы получить представление, насколько хорошо вычисленные по этому уравнению значения Y_i согласуются с наблюдаемыми значениями у_i, найдем отклонения Y_i – y_i:

xi	Yi	yi	Yi − yi
	1,226	1,25	−0,024
1,5	1,327	1,4	−0,073
	1,630	1,5	0,130
4,5	1,933	1,75	0,183
	2,034	2,25	−0,216

Из таблицы видно, что не все отклонения достаточно малы. Это объясняется малым числом наблюдений.

Построим график регрессии и вынесем на плоскость наблюдаемые точки:

■

Выборочное уравнение прямой линии регрессии по сгруппированным данным

При большом числе наблюдений одно и то же значение х может встретиться п_х раз; одно и то же значение у − п_у раз; одна и та же пара чисел (х, у) может наблюдаться п_ху раз. Поэтому данные наблюдений группируют, т.е. подсчитывают частоты п_х, п_у и п_ху. Все сгруппированные данные записывают в виде таблицы, называемую корреляционной:

Y X	х 1	х 2	…	xq	пу
у 1			…
у 2			…
…	…	…	…	…	…
yp			…
пх			…		n

В 1-й строке таблицы указаны наблюдаемые значения признака Х, а в 1-м столбце – наблюдаемые значения признака Y. На пересечении строк и столбцов находятся частоты п_ху наблюдаемых пар значений признаков.

В последнем столбце записаны суммы частот строк. Например, − число наблюдений значения у ₁ признака Y в сочетании с различными значениями признака Х.

В последней строке записаны суммы частот столбцов.

В клетке, расположенной в нижнем правом углу таблицы – сумма всех частот. Очевидно, что == п.

Составим выборочное уравнение прямой линии регрессии по сгруппированным данным. Для этого используем систему (2), полученную в предыдущем пункте

(2)

Воспользуемся тождествами:

из = следует = п ;

из = следует = п ;

из = следует = п

и

= (учтено, что пара чисел (х, у) наблюдалась п_ху раз).

Подставляя в систему (2) и сократив второе уравнение на п, получим

(3)

Решив эту систему, найдем параметры и b, а значит, искомое уравнение прямой линии регрессии Y на Х:

= x + b. (4)

Но на практике уравнение (4) используют в другом виде.

Найдем b из второго уравнения системы (3):

b = −. (5)

Подставляя (5) в уравнение (4), получим

− = (х − ). (6)

Подставим (5) в первое уравнение системы (3) и найдем коэффициент регрессии :

п + п b = ,

п + п (−) = ,

п + п − n = ,

n (− ) = − п ,

=

или

= .

Умножим обе части этого равенства на :

·= . (7)

Назовем

r _в =

выборочным коэффициентом корреляции.

Подставляем r _в в (7):

·= r _в.

Отсюда

= r _в.

Подставляя в уравнение (6), получим выборочное уравнение прямой линии регрессии Y на Х

− = r _в(х − ).

Аналогично находят выборочное уравнение прямой линии регрессии Х на Y

− = r _в(у − ).

Если обе линии регрессии Y на Х и Х на Y – прямые, то корреляцию называют линейной.

Выборочный коэффициент корреляции

Выборочный коэффициент корреляции r _в вычисляется по формуле

r _в = .

Свойства:

1⁰. Значения r _в заключены в отрезке [−1, 1], т.е. −1 ≤ r _в ≤ 1 или | r _в | ≤ 1.

2⁰. Если признаки Х и Y рассматривать в качестве случайных величин, то из их независимости следует r _в = 0. Обратное утверждение в общем случае неверно.

3⁰. Если | r _в | = 1, то Х и Y связаны линейной функциональной зависимостью.

Если значение | r _в | близко к единице, то надо находить линейную функцию регрессии.

Если | r _в | < 0,5, то обычно не стоит использовать линейную функцию. В этом случае можно попробовать найти нелинейную функцию (параболическую, гиперболическую, степенную, показательную).

Выборочный коэффициент корреляции служит для оценки силы линейной корреляционной связи:

чем ближе | r _в | к единице, тем связь сильнее;

чем ближе | r _в | к нулю, тем связь слабее.

Если r _в>0, то связь прямая; если r _в< 0, то связь обратная.

Выборочный коэффициент корреляции r _в является оценкой коэффициента корреляции r _г генеральной совокупности.

Проверка гипотезы о значимости выборочного коэффициента корреляции

Пусть двумерная генеральная совокупность (Х, Y) распределена нормально. Из этой совокупности извлечена выборка объема п и по ней найден выборочный коэффициент корреляции r _в ≠ 0. Требуется проверить нулевую гипотезу Н ₀: r _г = 0 о равенстве нулю генерального коэффициента корреляции.

Если нулевая гипотеза принимается, то это означает, что выборочный коэффициент корреляции r _в незначим, т.е. генеральный коэффициент корреляции r _гнезначимо отличается от нуля. В этом случае Х и Y некоррелированы, т.е. не имеют корреляционной связи; в противном случае − выборочный коэффициент корреляции r _в значим, т.е. генеральный коэффициент корреляции r _гзначимо отличается от нуля. В этом случае Х и Y коррелированы, т.е. имеют корреляционную связь.

Правило проверки гипотезы Н ₀

Для того, чтобы при уровне значимости проверить гипотезу Н ₀: r _г= 0 при конкурирующей гипотезе Н ₁: r _г≠ 0, надо:

1. Вычислить наблюдаемое значение критерия Стьюдента

Т_набл. =

(иногда вместо объема выборки п в формуле ставят N – максимальное число интервалов для Х или для Y).

2. По таблице критических точек распределения Стьюдента, по заданному уровню значимости и числу степеней свободы k = п – 2 (k = N – 2) найти критическую точку t_кр. (, k) двусторонней критической области.

3. Если | Т_набл. | < t_кр., то нет оснований отвергать гипотезу Н ₀.

Если | Т_набл. | > t_кр., то гипотезу Н ₀ отвергают.

Пример. В результате 78 опытов получены значения признаков Х и Y:

X	Y	X	Y	X	Y	X	Y
	-291		-219		-241		-264
	-270		-281		-243		-240
	-279		-262		-245		-277
	-282		-302		-282		-279
	-254		-275		-252		-253
	-264		-267		-276		-275
	-216		-290		-276		-248
	-276		-266		-246		-243
	-248		-283		-284		-264
	-253		-237		-271		-267
	-276		-222		-227		-213
	-262		-281		-256		-218
	-234		-269		-309		-223
	-313		-257		-300		-278
	-278		-235		-310		-236
	-292		-275		-255		-263
	-271		-276		-252		-268
	-256		-282		-274		-243
	-291		-277		-291		-271
	-243		-270

1. Составить корреляционную таблицу, используя результаты всех экспериментов.

2. Найти выборочные уравнения регрессии и построить их графики.

3. Проверить гипотезу о значимости выборочного коэффициента корреляции и наличии корреляционной связи между признаками Х и Y при уровне значимости = 0,05.

□

1. Найдем минимальные и максимальные значения Х и Y:

x _min= 55, x _max= 80;

= −313, = −213.

Пусть началами первых интервалов будут: х ₁= 53 для Х, у ₁= −321 для Y. Составим корреляционную таблицу с шагом h ₁ = 6 для Х, h ₂ = 20 для Y. Для каждой пары чисел (х_i, y_j) определяем в какой столбец попало значение х_i и в какую строку попало ему соответствующее значение y_j. В клетку, расположенную на пересечении найденной строки и столбца ставим некоторый знак. Операцию проводим для всех пар.

Y X	[53,59)	[59,65)	[65,71)	[71,77)	[77,83)
[-321, -301)
[-301, -281)
[-281, -261)
[-261, -241)
[-241, -221)
[-221, -201)

Вычислим середины частичных интервалов:

= , = ;

подсчитаем количество знаков в каждой клетке; добавим столбец п_у и строку п_х. В результате получим корреляционную таблицу

Y X						пу
−311
−291
−271
−251
−231
−211
пх						п =78

2. Составим выборочное уравнение регрессии Y на Х:

− = r _в(х − ).

Выборочный коэффициент корреляции:

r _в = .

Найдем, используя корреляционную таблицу, параметры, входящие в эти выражения:

= = ·(6·56 + 18·62 + 35·68 +15·74 + 4·80) = 67,462;

= = ·(6·56² + 18·62² + 35·68² +15·74² + 4·80²) = 4584,462;

=== 5,774;

= =·(4·(-311)+11·(-291)+ 33·(-271)+17·(-251)+9·(-231)+4·(-211)) =

= −263,821;

= =·(4·(-311)²+11·(-291)²+33·(-271)²+17·(-251)²+9·(-231)²+4·(-211)²) =

= 70144,59;

== = 23,304;

=1·74·(-311)+3·80·(-311)+10·74·(-291)+1·80·(-291)+29·68·(-271)+4·74·(-271)+

+11·62·(-251)+6·68·(-251)+2·56·(-231)+7·62·(-231)+4·56·(-211) = 1397882.

Найдем выборочный коэффициент корреляции

r _в = = = −0,919.

Уравнение регрессии Y на Х:

− = r _в(х − )

или

= + r _в(х − ).

Тогда

= −263,821 + (−0,919) (х − 67,462)

или

= −3,709 х − 13,604. (а)

Уравнение регрессии Х на Y:

− = r _в(у − )

или

= + r _в(у − ).

Тогда

= 67,462 + (−0,919) (у +263,821)

или

= −0,228 у + 7,390. (б)

Построим графики этих регрессий:

Графики должны пересекаться в точке (, ), т.е. в точке (67,462; −263,821).

3. Проверим гипотезу о значимости выборочного коэффициента корреляции.

По правилу проверки гипотезы Н ₀:

1. Наблюдаемое значение критерия Стьюдента

Т_набл. = = = = −20,335.

2. Критическая точка t_кр. (, k) двусторонней критической области:

t_кр. (, п– 2) = t_кр. (0,05;78–2) = t_кр. (0,05;76) = 1,99.

3. Так как | Т_набл. |> t_кр (|−20,335|>1,99), то гипотезу Н ₀ отвергаем. Значит, выборочный коэффициент корреляции r _в значим, т.е. генеральный коэффициент корреляции r _гзначимо отличается от нуля. В этом случае Х и Y коррелированы, т.е. имеют корреляционную связь.

■

Замечание. При решении задач можно перейти к условным вариантам:

u_i = , v_j = ,

где С ₁ и С ₂ – значения и , соответствующие максимальной частоте п_ху. Желательно, чтобы клетка с данной частотой находилась в середине таблицы. Точку (С ₁, С ₂) называют ложным нулем. В этом случае новые переменные U и V будут принимать значения: 0, ±1, ±2, ….

Выборочный коэффициент корреляции:

r _в = .

Величины , , , , , вычисляются по формулам:

= , = ,

= , = ,

=, =.

Зная эти величины, можно определить входящие в уравнения регрессии величины по формулам:

= h ₁ + C ₁, = h ₂ + C ₂,

= h ₁, = h ₂.

Дата добавления: 2014-10-15