Метод наименьших квадратов

ВВЕДЕНИЕ

Настоящие методические указания предназначены для студентов специальности 120100 всех форм обучения и содержит варианты индивидуальных заданий с примерами их выполнения.

Задания для выполнения практической работы выбирают согласно ва-рианту, номер которого совпадает с порядковым номером студента в жур-нале.

Метод наименьших квадратов (МНК) относится к методам аппроксимации или приближенного восстановления функции по известным ее значениям в ряде точек. Пусть в результате эксперимента получен набор данных, между которыми может существовать или отсутствовать функциональная либо структурная связь. Если такая связь существует, то она проявляется в эксперименте в неявном виде, а для использования результатов эксперимента в практических целях неявную зависимость необходимо сделать явной. Следовательно, возникает задача о наилучшем подборе эмпирических формул, которые позволяют аналитически представить данные измерений в точках в виде функции. Задача нахождения эмпирических формул состоит из двух этапов.

Первым этапом при записи аналитического выражения, аппроксимирующего требуемую зависимость, является нанесение экспериментальных точек на график в прямоугольной системе координат. В результате будет получена диаграмма разброса, из которой часто удается визуально выделить кривую и определить соответствующую ей функциональную зависимость, то есть определить вид эмпирической формулы.

На втором этапе подбираются параметры эмпирической формулы так, чтобы подобранная функция наилучшим образом отвечала данным, полученным в результате измерений.

Рассмотрим особенности анализа результатов эксперимента на примере построения линейной модели для случая, когда имеется одна зависимая переменная и одна независимая переменная .

Результаты измерений, полученные в виде пар значений переменных , … , изображены на рисунке 1.

Рис. 1. К построению регрессионной модели методом наименьших квадратов

Сделаем предположение, что зависимость между переменными и - линейная, то есть уравнение линии представим в виде:

(1)

Требуется получить такие значения коэффициентов и , при которых сумма квадратов ошибок будет минимальной. На рисунке 1 ошибка для каждой экспериментальной точки равна расстояниям по вертикали от этой точки до прямой линии.

Обозначим: , где – величина, предсказываемая моделью, заданной уравнением (1). Тогда выражение для ошибок будет иметь вид: , а функция ошибок: .

Для получения коэффициентов и , при которых будет минимальной, приравняем нулю частные производные данной функции .

Получена система двух линейных алгебраических уравнений, которая называется системой нормальных уравнений. Решая эту систему, получим и .

(2)

Тогда коэффициенты и равны:

(3)

В общем случае, когда эмпирическую функцию представляют в ви-

де полинома , система нормальных уравнений будет

иметь следующий вид:

(4)

Частным случаем является полином вида , где - коэффициенты полинома. Система нормальных уравнений вида (4), для данного полинома ():

(5)

Определяют коэффициенты полинома , , на основании системы уравнений (5), которую можно решить любым известным методом решения систем уравнений из курса «Высшей математики».

Для оценки точности совпадения теоретических и экспериментальных данных следует определить среднюю квадратическую ошибку на единицу веса:

, (6)

где - число вычисляемых (табличных) значений; – число параметров.

В случае, когда экспериментальная кривая не является многочленом первой или второй степени, можно с помощью подходящей замены переменной свести ее к линейной функции. Так, например, пусть сглаживающая кривая принадлежит классу показательных функций и характеризуется двумя параметрами и , то есть имеет вид:

(7)

Прологарифмировав выражение (7), получим:

(8)

Введем новые обозначения для параметров и переменных

В новых обозначениях уравнение (8) будет линейным относительно переменных :

(9)

Сделав пересчет выборочных значений наблюдаемых случайных величин, получим набор пар чисел , , …, , где , , , которые принимаем за новые исходные данные, отвечающие величинам и , связанным между собой линейным уравнением (9). Параметры и этой сглаживающей прямой (9) определяем методом наименьших квадратов, решая систему (2) (в новых обозначениях) относительно и . Найденные значения параметров и подставляем и вычисляем искомые значения параметров и : , . В результате получаем уравнение сглаживающей кривой (7). Степенную, показательную, гиперболическую, логарифмическую зависимости сводим к линейной, применяя следующие замены переменных (табл. 1).

Таблица 1

Сведение зависимостей к линейным путем преобразования координат

№ n|n	Сглаживающая функция	Приведенная функция	Замена переменных
1	2	3	4

Окончание табл.1

1	2	3	4

Дата добавления: 2015-07-02