Метод наименьших квадратов. Для характеристики формы связи при изучении корреляционной зависимости между выходным параметром и переменным фактором

Для характеристики формы связи при изучении корреляционной зависимости между выходным параметром и переменным фактором, при обработке результатов однофакторных экспериментов, используются уравнения приближенной регрессии [1]. Задача ставится следующим образом: по данной выборке объёма n найти уравнение приближенной регрессии и оценить допускаемую при этом ошибку. В качестве метода приближения обычно выбирают метод наименьших квадратов (МНК).

Суть метода заключается в том, что вид зависимости и значения коэффициентов описывающего ее уравнения должны обеспечивать минимальную сумму квадратов отклонений (Ф) ординат экспериментальных точек от ординат этой зависимости [2]:

где – рассчитанное по уравнению регрессии значение выходного параметра, а – экспериментальное значение выходного параметра, полученное при том же значении переменного фактора .

Задача определения коэффициентов уравнения регрессии по МНК сводится к определению минимума функции многих переменных [1]. Если:

и требуется выбрать коэффициенты таким образом, чтобы:

то необходимым условием минимума будет являться выполнение равенств:

Т.е. минимум данной функции будет в точке, где ёё частные производные равны нулю.

Условие (1.4) можно записать в виде:

После преобразования:

Система уравнений (1.6) имеет столько же уравнений, сколько неизвестных коэффициентов входит в уравнение регрессии, и называется системой нормальных уравнений.

При изучении зависимости выходного параметра от одного переменного фактора необходимо построить эмпирическую линию регрессии для определения вида уравнения регрессии [1]. Для этого весь диапазон изменения x на поле корреляции разбивается на k равных интервалов . Все точки, попавшие в данный интервал , относят к его середине . Для этого подсчитывают частные средние для каждого интервала:

где – экспериментальные значения выходного параметра, попавшие в интервал , а – количество значений .

Затем последовательно соединяют точки отрезками прямой. Полученная ломаная называется эмпирической линией регрессии y по x. По виду эмпирической линии регрессии можно подобрать уравнение регрессии .

Для линейной зависимости условие (1.4) будет иметь вид:

Для определения коэффициентов и линейного уравнения будем иметь систему линейных уравнений (1.9):

Решение системы уравнений (1.9) относительно и дает следующие формулы для их расчета:

Аналогичным образом, с помощью МНК можно получить формулы для расчета коэффициентов нелинейных зависимостей (1.12) – (1.18) [2]:

Логарифмическая зависимость , > 0, х ≠ 0

Экспоненциальная функция , все и > 0,

Степенная функция , , , все и > 0

Дробно-линейная функция , ,

Гиперболическая функция , > 0

Дробно-рациональная функция ,

Квадратичная (параболическая) функция

Точность описания корреляционной связи между параметром выхода и переменным фактором нагляднее всего характеризует средняя погрешность аппроксимации , которая рассчитывается по следующей формуле:

Очевидно, что лучшей зависимостью для описания связи между будет та, которая обеспечивает минимальную среднюю погрешность аппроксимации .