Детерминированные и статистические зависимости

Регрессия

Df Линейная регрессия

Самый простой и наиболее часто используемый вид регрессии – линейная. Приближение данных (x_i,y_i) осуществляется линейной функцией y(x)=b+a×x. На координатной плоскости (x,y) линейная функция, как известно, представляется прямой линией (рис. справа). Еще линейную регрессию часто называют методом наименьших квадратов, поскольку коэффициенты a и b вычисляются из условия минимизации суммы квадратов ошибок |b+a×x_i-y_i|².

Для расчета линейной регрессии используются следующие формулы

Замечание. Чаще всего, такое же условие, т.е. минимизация суммы квадратов ошибок в узлах |b+ax_i-y_i|², ставится и в других задачах регрессии, т. е. приближения массива данных (x_i,y_i) другими зависимостями y(x). Однако, имеются и альтернативные алгоритмы, минимизирующие сумму абсолютных значений медиан ошибок в узлах (медиан-медианная регрессия).Различие результатов среднеквадратичной (сплошная линия) и медиан-медианной (пунктир) линейной регрессии иллюстрируется рис. снизу.

http://www.edu.nstu.ru/courses/msos/08.html

8.1. Детерминированные и статистические зависимости
8.2. Корреляция и коэффициент корреляции
8.3. Уравнения регрессии
8.3.1. Линейная регрессия
8.3.2. Полиномиальная регрессия
8.3.3. Нелинейная регрессия
8.4. Сглаживание данных
8.5. Предсказание зависимостей

В любой отрасли науки о Природе, многие явления являются зависимыми между собой. На основании опыта (наблюдений) можно построить строгую математическую модель наблюдаемого явления и все ее закономерности могут быть описаны. Например, движение планеты вокруг Солнца подчиняется законам Кеплера, которые, в свою очередь, вытекают из закона Всемирного тяготения. Наблюдения подтверждают правильность этого закона. Однако, по мере увеличения точности наблюдений выявляются «неравенства», т.е. отклонение от предвычисленного закона, что свидетельствует о том, что принятая модель слишком упрощена и требует уточнения.

Синоптики, располагая современными вычислительными средствами, хорошо развитым математическим аппаратом, сведениями о распределении температур, давления, влажности, направления и скорости ветра в некоторый начальный момент, могут после интегрирования соответствующих уравнений построить синоптическую картину для последующего времени. Однако мы знаем, что синоптический прогноз не всегда сбывается, так как число возмущающих факторов столь велико, что учесть их все практически невозможно.

Более того, современные представления о динамическом хаосе теоретически обосновывают принципиальную невозможность точных прогнозов погоды.

Отсюда – невозможность описания процессов во всех деталях и предсказание их точных значений в будущие моменты времени.

Зависимости, строго описываемые явными формулами или алгоритмами, дающие возможность предсказания, называют детерминированными.

Наличие большого числа наблюдательных данных позволяет построить зависимость одного параметра от другого не строго, без учета других факторов. Зависимости, полученные таким образом, называются статистическими.

Аппроксимация эмпирических закономерностей методом наименьших квадратов строго обоснована лишь в случае, когда только наблюдательные данные содержат погрешности. В статистических закономерностях «шумят» не только функции, но и аргументы. Поэтому для анализа таких закономерностей требуется особый подход.

Дата добавления: 2014-01-20