Постановка задачи дискриминантного анализа

Основная цель дискриминантного анализа

Дискриминантный анализ является разделом многомерного статистического анализа, который включает в себя методы классификации многомерных наблюдений по принципу максимального сходства при наличии обучающих признаков.

Напомним, что в кластерном анализе рассматриваются методы многомерной классификации без обучения. В дискриминантном анализе новые кластеры не образуются, а формулируется правило, по которому объекты подмножества подлежащего классификации относятся к одному из уже существующих (обучающих) подмножеств (классов), на основе сравнения величины дискриминантной функции классифицируемого объекта, рассчитанной по дискриминантным переменным, с некоторой константой дискриминации.

Предположим, что существуют две или более совокупности (группы) и что мы располагаем множеством выборочных наблюдений над ними. Основная задача дискриминантного анализа состоит в построении с помощью этих выборочных наблюдений правила, позволяющего отнести новое наблюдение к одной из совокупностей.

Пусть имеется множество М единиц N объектов наблюдения, каждая i -я единица которого описывается совокупностью р значений дискриминантных переменных (признаков) x_ij, (i = 1, 2,..., N; j = 1, 2,..., р). Причем все множество М объектов включает q обучающих подмножеств (q ≥ 2) M_k размером n_k каждое и подмножество М ₀ объектов подлежащих дискриминации (под дискриминацией понимается различие). Здесь k — номер подмножества (класса), k = 1, 2,..., q.

Требуется установить правило (линейную или нелинейную дискриминантную функцию f (X)) распределения m -объектов подмножества М ₀ по подмножествам M_k.

Наиболее часто используется линейная форма дискриминантной функции, которая представляется в виде скалярного произведения векторов A = (a ₁, a ₂,..., a_p) дискриминантных множителей и вектора X_i = (x_{i ,1}, x_{i ,2}, …, x_{i , p} ) дискриминантных переменных:

или

F_i = a ₁ x_{i ,1} + a ₂ x_{i ,2} + … a_p x_{i , p} .

Здесь X_i — транспонированный вектор дискриминантных переменных x_ij — значений j -х признаков у i -го объекта наблюдения.

Дискриминантный анализ проводится в условиях следующих основных предположений:

· множество М объектов разбито на два или более (q ≥ 2) подмножеств M_k (класса), которые отличаются от других групп переменными x_ij;

· в каждом подмножестве M_k находится, по крайней мере, два объекта (n_k ≥ 2), причем все объекты наблюдения множества М должны принадлежать какому-либо из подмножеств (классов);

· число N объектов наблюдения должно превышать число р дискриминантных переменных (0 < р < N -2) не менее чем на две единицы;

· линейная независимость между признаками (j), т.е. ни один из признаков не должен быть линейной комбинацией других признаков, в противном случае он не несет новой информации;

· нормальный закон распределения дискриминантных переменных x_ij (по признакам).

Если приведенные предположения не удовлетворяются, то ставится вопрос о целесообразности использования дискриминантного анализа для классификации новых наблюдений.

Основными проблемами дискриминантного анализа являются отбор дискриминантных переменных и выбор вида дискриминантной функции. Для получения наилучших различий обучающих подмножеств могут использоваться критерии последовательного отбора переменных или пошаговый дискриминантный анализ. После определения набора дискриминантных переменных решается вопрос о выборе вида дискриминантной функции (линейной или нелинейной).

В качестве дискриминантных переменных могут выступать не только исходные (наблюдаемые) признаки, но и главные компоненты или главные факторы, выделенные в факторном анализе.

Дискриминантный анализ может использоваться и для прогнозирования поведения наблюдаемых единиц статистической совокупности путем сопоставления их с поведением аналогичных объектов обучающих подмножеств.

Дата добавления: 2014-10-22