Множественная регрессия

0.4097

1.3974

0.9191

0.5318

1.0000 2.3000 5.2900

1.0000 1.6000 2.5600

1.0000 1.1000 1.2100

1.0000 0.8000 0.6400

1.0000 0.3000 0.0900

Полиномиальная регрессия

Основываясь на виде графика, можно допустить, что данные могут быть аппроксимированы полиномиальной функцией второго порядка:

y = a₀ + a₁t + a₂t²

Неизвестные коэффициенты a₀, a₁ и a₂ могут быть найдены методом среднеквадратичес-кой подгонки (аппроксимации), которая основана на минимизации суммы квадратов отклоне-ний данных от модели. Мы имеем шесть уравнений относительно трех неизвестных,

представляемых следующей матрицей 6х3:

X = [ones(size(t)) t t.^2]

X = 1.0000 0 0

Решение находится при помощи оператора \:

a = X\y

a =

- 0.2387

Следовательно, полиномиальная модель второго порядка наших данных будет иметь вид

y = 0.5318 + 0.9191t – 0.2387 t²

Оценим теперь значения модели на равноотстоящих точках (с шагом 0.1) и нанесем кривую на график с исходными данными.

T = (0: 0.1: 2.5)';

Y = [ones(size(T)) T T.^2]*a;

plot(T,Y,'-',t,y,'o'); grid on

Очевидно, полиномиальная аппроксимация оказалась не столь удачной. Здесь можно или по-высить порядок аппроксимирующего полинома, или попытаться найти какую-либо другую функциональную зависимость для получения лучшей подгонки.

Линейно-параметрическая регрессия [1]

Вместо полиномиальной функции, можно было-бы попробовать так называемую линейно-параметрическую функцию. В данном случае, рассмотрим экспоненциальную функцию

y = a₀ + a₁℮^-t + a₂t℮^-t

Здесь также, неизвестные коэффициенты a₀, a₁ и a₂ могут быть найдены методом наимень-ших квадратов. Составим и решим систему совместных уравнений, сформировав регресси-онную матрицу X, и применив для определения коэффициентов оператор \:

X = [ones(size(t)) exp(- t) t.*exp(- t)];

a = X\y

a =

- 0.8988

Значит, наша модель данных имеет вид

y = 1.3974 – 0.8988℮^-t + 0.4097t℮^-t

Оценим теперь, как и раньше, значения модели на равноотстоящих точках (с шагом 0.1) и на-несем эту кривую на график с исходными данными.

Как видно из данного графика, подгонка здесь намного лучше чем в случае полиномиальной функции второго порядка.

Рассмотренные выше методы аппроксимации данных можно распространить и на случай бо-лее чем одной независимой переменной, за счет перехода к расширенной форме записи. До-пустим, мы измерили величину y для некоторых значений двух параметров x₁ и x₂ и полу-чили следующие результаты

x1 = [0.2 0.5 0.6 0.8 1.0 1.1]';

x2 = [0.1 0.3 0.4 0.9 1.1 1.4]';

y = [0.17 0.26 0.28 0.23 0.27 0.24]';

Множественную модель данных будем искать в виде

y = a₀ + a₁x₁ + a₂x₂

Методы множественной регрессии решают задачу определения неизвестных коэффициентов a₀ , a₁ и a₂ путем минимизации среднеквадратической ошибки приближения. Составим сов-местную систему уравнений, сформировав матрицу регрессии X и решив уравнения отно-сительно неизвестных коэффициентов, применяя оператор \.

X = [ones(size(x1)) x1 x2];

a = X\y

a =

Дата добавления: 2014-10-15