Метод наименьших квадратов

Пусть на вход некоторого устройства подается сигнал x, а на выходе измеряется сигнал у. Известно, что величины x и y связаны функциональной зависимостью, но какой именно -неизвестно. Требуется приближенно определить эту функциональную зависимость у = j(x) по опытным данным. Пусть в результате n измерений получен ряд экспериментальных точек (x_i, y_i). Известно, что через n точек можно всегда провести кривую, аналитически выражаемую многочленом (n -1)-й степени. Этот многочлен называют интерполяционным. И вообще, замену функции j(x) на функцию y(x) так, что их значения совпадают в заданных точках j(x_i)= y(x_i) i = 1,2...,n называют интерполяцией.

Однако такое решение проблемы не является удовлетворительным, поскольку y_i¹j(x_i) из-за случайных ошибок измерения и влияния на измерения значений y_i помех и шумов в устройстве. Так что y_i¹j(x_i)+d_i, где d_i - некоторая случайная ошибка. Поэтому требуется провести кривую так, чтобы она в наименьшей степени зависела от случайных ошибок. Эта задача называется сглаживанием (аппроксимацией) экспериментальной зависимости и часто решается методом наименьших квадратов. Сглаживающую кривую называют аппроксимирующей.

Задача аппроксимации решается следующим образом. B декартовой прямоугольной системе координат наносят точки (х_i, у_i). По расположению этих точек высказывается предположение о принадлежности искомой функции к определенному классу функций. Например, линейная функция j(x) = a₀+a₁x, квадратичная j(х) = а₀+а₁х + а₂х² ит.д. B общем случае j(x) = j(х,а₀,а_иа₂,...,а_r). Неизвестные параметры функции а₀,а_иа₂,...,а_r определяются из требования минимума суммы квадратов случайных ошибок, т.е. минимума величины

(1.1)

Величина d называется также суммарной невязкой. Необходимым условием минимума функции нескольких переменных является обращение в нуль частных производных невязки:

(1.2)

Решая систему уравнений, находим неизвестные параметры а_j. и, тем самым, полностью определяем функцию, которая наилучшим образом (в смысле наименьших квадратов отклонений от исходных точек или наименьшей суммарной невязки) аппроксимирует (приближает) искомую функцию j(x).

Остановимся подробнее на линейной зависимости j(x) = а₀ + а₁х.

Дифференцируя, получим следующую систему уравнений:

(1.3)

Из первого уравнения находим a₀=M_y-a₁M_x,

где, ;

Подставляя выражение для а₀ во второе уравнение, найдем , где

.

Таким образом, есть искомая линейная функция.

Ввиду простоты расчетов аппроксимация линейной зависимости используется довольно часто. Кроме того, многие функции, зависящие от двух параметров, можно линеаризовать путем замены переменных.

Для этого необходимо подобрать такое преобразование исходной зависимости y(x) = j(х,а₀,а₁), в результате которого она приобретает линейный вид y=b₀+b₁u. Далее решается задача линейной аппроксимации для новой зависимости и вычисленные коэффициенты b₀ и b₁ пересчитываются в коэффициенты а₀ и а₁.

Практические задания

Задание 1. Экспериментатор измерял некоторую величину Y в зависимости от заданного значения X. Он провел 3 серии опытов и получил следующие результаты:

Таблица 1.1

X	Y (опыт№1)	Y (опыт №2)	Y (опыт№3)
	122.6	123.0	121.9
0.05	101.3	100.4	102.4
0.10	94.6	94.9	92.9
0.15	86.7	88.3	87.7
0.20	82.1	83.7	81.8
0.25	80.4	81.6	81.2

а) Сформировать из результатов эксперимента массив данных.

б) Используя основные операции с матрицами сформировать новый массив, нулевой столбец которого содержит значение X, а первый - средние значения Y для 3-х опытов.

в) Нанести экспериментальные точки и их средние значения в любом из опытов на график.

Задание 2. Экспериментатор установил, что при некоторой постоянной температуре суммарное давление смеси паров бензола, дихлорэтана и хлорбензола в однофазной системе равняется значениям, приведенным в табл.1.2:

Таблица 1.2

 

Состав смеси, мольные части	Давление P, Па
Бензол	Дихлорэтан	Хлорбензол
0,80	0,10	0,10
0,20	0,70	0,10
0,05	0,05	0,90

а) Найти значение давления паров чистых компонентов при той же постоянной температуре.

Задание 3. B результате эксперимента была определена некоторая табличная зависимость. C помощью метода наименьших квадратов подобрать функциональную зависимость заданного вида. Определить суммарную ошибку.

Варианты заданий

1) Для заданий №1 и №2 результаты опытов экспериментатора задать самостоятельно.

2) Варианты для задания №3:

Вариант №0. P(s) = As³ +Bs² +D

S	0.5		1.5		2.5		3.5		4.5
P		10.1	11.58	17.4	30.68	53.6	87.78	136.9	202.5

Вариант №1. C(s) = As³ /(Bs² +1)+D

S	0.5		1.5		2.5		3.5		4.5
C		10.1	11.58	17.4	30.68	53.6	87.78	136.9	202.5

Вариант №2. G(s) = As² -B

S	0.5	1.5		2.5		3.5		4.5
G	3.99	5.65	6.41	6.71	7.215	7.611	7.83	8.19	8.3

Вариант №3. K(s) = As² /Bs + D

S	0.1	0.5		1.5		2.5	3.5	3.5
К	2.31	2.899	3.534	4.412	5.578	6.92	8.699	10.69	13.39

Вариант №4. V(s) = As³ * Bs + D

S	0.2	0.7	1.2	1.7	2.2	2.7	3.2
V	2.3198	2.8569	3.5999	4.4357	5.5781	6.9459	8.6621

Вариант №5. W(s) = A /(Bs + C)

S
W	0.529	0.298	0.267	0.171	0.156	0.124	0.1	0.078	0.075

Вариант №6. Q(s) = As² + Bs + C

S		1.25	1.5	1.75		2.25	2.5	2.75
Q	5.21	4.196	3.759	3.672	4.592	4.621	5.758	7.173	9.269

Вариант №7. Y = x /(Ax - B)

X		3.1	3.2	3.3	3.4	3.5	3.6	3.7	3.8	3.9
Y	0.61	0.6	0.592	0.58	0.585	0.583	0.582	0.57	0.572	0.571

Вариант №8. V = 1 /(A + Bu²)

и		2.5		3.5		4.5		5.5
V	5.197	7.78	11.14	15.09	19.24	23.11	26.25	28.6	30.3

Вариант №9. R = At² + 14,5

t
R	2.11	5.2	11.15	19.27	26.2	30.37	32.0	33.0	33.22	33.2

Вариант №10. Z = At⁴ + Bt³ + Ct² + Dt + K

t	0.66	0.9	1.17	1.47	1.7	1.74	2.08	2.63	3.12
Z	38.9	68.8	64.4	66.5	64.95	59.36	82.6	90.63	113.5