Определение параметров функциональных зависимостей

Метод наименьших квадратов

Основные положения метода наименьших квадратов

При проведении исследований и измерений в различных областях деятельности человека очень часто зависимости между двумя величинами x и y получаются в табличном виде:

x	x 1	x 2	...	xn
y	y 1	y 2	...	yn

Чтобы получить зависимость y от x в аналитическом виде, широко применяется метод наименьших квадратов (МНК).

Он основан на том, что из множества функций наилучшей является та, для которой сумма S квадратов отклонений наблюдаемых значений от вычисленных является наименьшей

Здесь n – число измерений, – полученные в опыте табличные значения функции, – значения функции, вычисленные по выбранной формуле.

Первым этапом применения МНК является выбор типа или класса функций . Часто используются

а) линейная функция ;

б) квадратичная функция ;

в) показательная или экспоненциальная функция ;

г) логарифмическая функция ;

д) гиперболическая функция .

Чтобы выбрать вид функции, табличные значения наносят на график и соотносят расположение точек с формой графика одной из пяти предлагаемых функций:

 

Вид функции можно выбрать и более строго: наилучшим образом описывает (аппроксимирует) полученную в опыте зависимость та функция, для которой сумма квадратов отклонений меньше, чем для других. Но этот способ достаточно трудоемкий.

Второй этап применения МНК – определение параметров выбранной функции.

Определение параметров функциональных зависимостей

1) Определение параметров линейной зависимости .

Параметры и должны быть такими, чтобы величина была минимальной. Используем необходимое условие минимума функции :

Преобразование написанных условий приводит к следующей системе для определения и :

Решая эту систему, получаем формулы:

2) Определение параметров экспоненциальной зависимости

Прологарифмируем функцию :

Зависимость от x линейная, поэтому заменим в формулах (1) и (2) на , а на :

Окончательно находим .

3) Определение параметров логарифмической зависимости .

Отличие данной формулы от линейной состоит в замене , поэтому:

4) Определение параметров гиперболической зависимости .

В данной формуле, в отличие от линейной, x заменен на , поэтому

5) Определение параметров квадратичной зависимости .

Составим .

Необходимое условие минимума функции :

Преобразование выписанных уравнений приводит к системе

Это система трех линейных уравнений для трех неизвестных , ее решение в общем виде выглядит громоздко, поэтому после ее составления, решение системы находят одним из известных методов: Гаусса, матричным или по формулам Крамера.