Метод наименьших квадратов

Эмпирические зависимости.

При интерполяции требуется совпадение значений аппроксимируемой функции и аппроксимирующей функции в узлах: . Между тем значения функции могут быть найдены путем экспериментов, измерений, которые могут содержать ошибки. Поэтому совпадение значений в узлах будет означать повторение ошибок эксперимента. Задача поиска эмпирической зависимости отличается от задачи интерполирования. Графически это выглядит так, как показано на рисунке 4.2.

То есть график эмпирической зависимости не обязательно проходит через узловые точки.

Рис. 4.2.

Поставим задачу более четко. Пусть дана таблица значений функции .

x			…
y			…

Следует найти такую функцию из определенного класса функций, которая бы в узлах мало отличалась бы от значений функции . Для характеристики близости к вводится понятие отклонения функции в узле , а именно . Различные способы минимизации модулей этих величин определяют тот или иной метод приближения функции. Например, можно минимизировать величины , , . Минимизация последней величины определяет метод наименьших квадратов, который является наиболее оптимальным.

Задача поиска эмпирической зависимости решается в два этапа.

1. Подбор вида эмпирической зависимости , где , …, – параметры эмпирической зависимости, а . Например, в зависимости два параметра – , .

2. Определение параметров эмпирической зависимости с помощью того или иного способа минимизации модулей отклонений.

Заметим, что линейная зависимость содержит два параметра. И часто функциональную зависимость с двумя параметрами можно свести к линейной. Например:

,

.

Если обозначить

, , ,

то получим линейную зависимость .

Часто вид эмпирической зависимости известен из физических соображений. Если вид заранее неизвестен, то бывает полезным экспериментальные данные нанести на координатную плоскость и по графику угадать вид зависимости путем сравнения этого графика с ранее известными.

Рис. 4.3.

Пусть вид эмпирической зависимости найден . Надо определить параметры , …, . Как было сказано ранее, они определяются путем минимизации величин , . Рассмотрим метод наименьших квадратов.

Будем минимизировать величину . Сделаем предположение, что функция является линейной относительно параметров:

.

Так как функция s есть функция m +1 переменных, то стационарную точку найдем из условия одновременного равенства нулю всех частных производных:

, , …, .

Решая эту систему из m +1 уравнения с m +1 неизвестным, получаем искомые параметры. (Если все функции () линейно независимы, то можно показать, что решение системы будет единственно, и найденная точка будет являться точкой минимума.)

Применим МНК для частного случая, когда вид эмпирической зависимости такой: . (Заметим, что эта зависимость является линейной относительно параметров a, b и c и функции , , линейно независимы.)

Глава 5.

Дата добавления: 2014-01-14