Аппроксимация функций. Метод наименьших квадратов

В инженерной деятельности часто возникает необходимость описать в виде функциональной зависимости связь между величинами, заданными таблично или в виде набора точек с координатами (x_i, y_i), i = 0, 1, 2 ,..., n, где n – общее количество точек. Как правило, эти табличные данные получены экспериментально и имеют погрешности (рис. 2.5)

Рис.4.2

При аппроксимации желательно получить относительно простую функциональную зависимость (например, многочлен), которая позволила бы "сгладить" экспериментальные погрешности, вычислять значения функции в точках, не содержащихся в исходной таблице.

Эта функциональная зависимость должна с достаточной точностью соответствовать исходной табличной зависимости. В качестве критерия точности чаще всего используют критерий наименьших квадратов, т.е. определяют такую функциональную зависимость f (x), при которой

S =, (4.12)

обращается в минимум.

Погрешность приближения оценивается величиной среднеквадратического уклонения

D = . (4.13)

В качестве функциональной зависимости рассмотрим многочлен

P_m (x) =a ₀ + a ₁ x + a ₂ x ² +...+a_mx^m. (4.14)

Формула (4.12) примет вид

S =

Условия минимума S можно записать, приравнивая нулю частные производные S по всем переменным a ₀, a ₁, a ₂, …, a_m. Получим систему уравнений

= –= 0, или

= 0, k = 0, 1, …, m. (4.15)

Систему уравнений (4.15) перепишем в следующем виде:

a ₀+ a ₁+ … + a_m = , k = 0, 1, …, m (4.16)

Введем обозначения:

c_k = , b_k = .

Система (4.16) может быть записана так:

a ₀ c_k + a ₁ c_{k +1} + … + c _{k + m} a_m = b_k, k = 0, 1, …, m. (4.17)

Перепишем систему (4.17) в развернутом виде:

c ₀ a ₀ + c ₁ a ₁ + c ₂ a ₂… + c_ma_m = b ₀

c ₁ a ₀ + c ₂ a ₁ + c ₃ a ₂… + c_{m +1} a_m = b ₁

(4.18)

c_ma ₀ + c_{m +1} a ₁ + c_{m +2} a ₂… + c _{2 m}a_m = b_m

Матричная запись системы (4.18) имеет следующий вид:

Ca = b. (4.19)

Для определения коэффициентов a_k, k = 0, 1, …, m, и, следовательно, искомого многочлена (4.14) необходимо вычислить суммы c_k, b_k и решить систему уравнений (4.18). Матрица C системы (4.19) называется матрицей Грама и является симметричной и положительно определенной. Эти полезные свойства используются при решении.

Погрешность приближения в соответствии с формулой (4.13) составит

D = . (4.20)

Рассмотрим частные случаи m =1 и m = 2.

1. Линейная аппроксимация (m = 1).

P ₁(x) = a ₀ + a ₁ x.

c ₀ = = n + 1; c ₁ = = ; c ₂ = ; (4.21)

b ₀ = = ; b ₁ = = . (4.22)

c ₀ c ₁ n +1

C = =,

c ₁ c ₂

b = (b ₀, b ₁) ^T = (,) ^T.

Решение системы уравнений Ca = b найдем по правилу Крамера:

a ₀ = , a ₁ = ,

где ú C ú – определитель матрицы C, аú C_i ú – определитель матрицы C_i, полученной из матрицы C заменой i -го столбца столбцом свободных членов b, i = 1, 2.

Таким образом,

a ₀ = , a ₁ = . (4.23)

Алгоритм 4.1 (Алгоритм метода наименьших квадратов. Линейная аппроксимация).

Шаг 1. Ввести исходные данные: x_i, y_i, i= 0, 1, 2,..., n.

Шаг 2. Вычислить коэффициенты c ₀, c ₁, b ₀, b ₁ по формулам (4.21), (4.22).

Шаг 3. Вычислить a ₀, a ₁ по формулам (4.23).

Шаг 4. Вычислить величину погрешности

D ₁ = . (4.24)

Шаг 5. Вывести на экран результаты: аппроксимирующую линейную функцию P ₁(x) = a ₀ + a ₁ x и величину погрешности D ₁.

2. Квадратичная аппроксимация (m = 2).

P ₂(x) = a ₀ + a ₁ x + a ₂ x ².

c ₀ == n +1; c ₁ ==; c ₂ =; c ₃ =; c ₄ =. (4.25)

b ₀ ==; b ₁ ==; b ₂ = . (4.26)

c ₀ c ₁ c ₂

C = c ₁ c ₂ c ₃.

c ₂ c ₃ c ₄

b = (b ₀, b ₁, b ₂) ^T.

Решение системы уравнений Ca = b найдем по правилу Крамера:

a_i = , i = 0, 1,

где ú C ú – определитель матрицы C, аú C_i ú – определитель матрицы C_i, полученной из матрицы C заменой i -го столбца столбцом свободных членов b.

ú C ú = c ₀ c ₂ c ₄ + 2 c ₁ c ₂ c ₃ – c – с c ₄ – cc ₀. (4.27)

b ₀ c ₁ c ₂

ú C ₁ú = b ₁ c ₂ c ₃ = b ₀ c ₂ c ₄ + b ₂ c ₁ c ₃ + b ₁ c ₂ c ₃ – b ₂ c – b ₁ c ₁ c ₄ – b ₀ c. (4.28)

b ₂ c ₃ c ₄

c ₀ b ₀ c ₂

ú C ₂ú = c ₁ b ₁ c ₃ = b ₁ c ₀ c ₄ + b ₀ c ₂ c ₃ + b ₂ c ₁ c ₂ – b ₁ c – b ₀ c ₁ c ₄ – b ₂ c ₀ c ₃. (4.29)

c ₂ b ₂ c ₄

c ₀ c ₁ b ₀

ú C ₃ú = c ₁ c ₂ b ₁ = b ₂ c ₀ c ₂ + b ₁ c ₁ c ₂ + b ₀ c ₁ c ₃ – b ₀ c – b ₂ c – b ₁ c ₀ c ₃. (4.30)

c ₂ c ₃ b ₂

a ₀ = , a ₁ = , a ₂ = . (4.31)

Алгоритм 4.2 (Алгоритм метода наименьших квадратов. Квадратичная аппроксимация).

Шаг 1. Ввести исходные данные: x_i, y_i, i= 0, 1, 2,..., n.

Шаг 2. Вычислить коэффициенты c ₀, c ₁, c ₂, c ₃, c ₄, b ₀, b ₁, b ₂, по формулам (4.25), (4.26).

Шаг 3. Вычислить ú C ú, ú C ₁ú, ú C ₂ú, ú C ₃ú по формулам (4.27) – (4.30).

Шаг 4. Вычислить a ₀, a ₁, a ₂ по формулам (4.31).

Шаг 5. Вычислить величину погрешности

D ₂ = . (4.32)

Шаг 5. Вывести на экран результаты: аппроксимирующую квадратичную функцию P ₂(x) = a ₀ + a ₁ x + a ₂ x ² и величину погрешности D ₂.

Пример 4.6.

Построим по методу наименьших квадратов многочлены первой и второй степени и оценим степень приближения. Значения y_i в точках x_i, i =0, 1, 2, 3, 4 приведены в таблице 2.3.

Таблица 4.1

i
xi
yi	–1

Вычислим коэффициенты c ₀, c ₁, c ₂, c ₃, c ₄, b ₀, b ₁, b ₂, по формулам (4.25), (4.26):

c ₀ = 5; c ₁ = 15; c ₂ = 55; c ₃ = 225; c ₄ = 979;

b ₀ = 12; b ₁ = 53; b ₂ = 235.

1. Линейная аппроксимация (m =1).

Система уравнений для определения коэффициентов a ₀ и a ₁ многочлена первой степени P ₂(x) = a ₀ + a ₁ x + a ₂ x ² имеет вид

5 a ₀ + 15 a ₁ = 12

15 a ₀ + 55 a ₁ = 53

По формулам (4.23) найдем коэффициенты a ₀ и a ₁:

a ₀ = » –2.7, a ₁ = » 1.7.

P ₁(x) = a ₀ + a ₁ x = –2.7 + 1.7 x.

2. Квадратичная аппроксимация (m =2).

Система уравнений для определения коэффициентов a ₀, a ₁ и a ₂ многочлена второй степени P ₂(x) = a ₀ + a ₁ x + a ₂ x ² имеет вид

5 a ₀ + 15 a ₁ + 55 a ₂ = 12

15 a ₀ + 55 a ₁ + 225 a ₂ = 53

55 a ₀ + 225 a ₁ + 979 a ₂ = 235

По формулам (4.31) найдем коэффициенты a ₀, a ₁ и a ₂:

a ₀» –2.20, a ₁» 1.27, a ₂» 0.07.

P ₂(x) = a ₀ + a ₁ x + a ₂ x ² = –2.20 + 1.27 x + 0.07 x ².

Сравним значения, рассчитанные для функциональной зависимости, с исходными данными. Результаты приведены в табл.2.4.

Таблица 4.2

i
xi
yi	–1
P 1(xi)	–1	0.7	2.4	4.1	5.8
P 2(xi)	–1	0.62	2.24		6.9

Погрешность приближения в соответствии с формулами (4.24) и (4.32) составит

D ₁ = = 0.245.

D ₂ = = 0.084.

Дата добавления: 2014-01-05