Расчет коэффициентов уравнения регрессии методом наименьших квадратов

Метод наименьших квадратов (МНК) может быть использован для расчета коэффициентов уравнения регрессии, выраженного в виде полинома степени m.

Рассмотрим пример определения коэффициентов однофакторного уравнения регрессии вида у = а ₀ + а ₁ × х. Фактические значения фактора x и результата y приведены в форме таблицы (таблица 8.3).

При определении коэффициентов однофакторного уравнения регрессии с помощью табличных (фактических) значений определяют регрессионные остатки e, характеризующие отклонения, с которыми полиномиальное уравнение регрессии отображает табличную функцию. Таким образом, для каждой из n множества пар значении x – y получаем соответствующее значение регрессионного остатка e.

 

Таблица 8.3 – Исходные данные для определения
коэффициентов уравнения регрессии

Результат	y 1	y 2	y 3	…	yi	…	yn
Фактор	x 1	x 2	x 3	…	x i	…	xn

Ясно, что чем лучше будут подобраны коэффициенты полиномиального уравнения регрессии, тем меньше по абсолютной величине будут отклонения. Поэтому требуется найти такие значения коэффициентов a_k (k = , при которых сумма квадратов регрессионных остатков была бы минимальной:

.

Функция двух аргументов S (а ₀, а ₁) принимает экстремальное значение, в данном случае минимальное, в точке (а ₀, а ₁), в которой частные производные этой функции по каждому аргументу равны нулю:

,

.

После преобразования получаем систему уравнений:

Решая систему двух линейных уравнений относительно двух неизвестных а ₀ и а ₁, определяем коэффициенты (параметры) линейного уравнения регрессии.

Оценка надежности коэффициентов уравнения регрессии

Надежностьоцениваемого коэффициента при соответствующем факторе в уравнении регрессии характеризует, насколько точнее уравнение регрессии, включающее этот коэффициент, отражает случайные величины результата, чем уравнение регрессии, не включающее этот коэффициент.

Для оценки надежности коэффициентов чаще всего используется коэффициент частной корреляции.

Рассмотрим использование коэффициента частной корреляции для оценки влияния фактора х ₂ в уравнении регрессии

у = а ₀ + а ₁ × х ₁ + а ₂ × х ₂.

Пусть в результате n наблюдений имеются фактические значения y _{( i )}, x _{1( i )}, x _{2( i )}.

Коэффициент частной корреляции рассчитывается по формуле:

,

где суммы квадратов отклонений:

,

.

Тогда, если r_{y 12}» 1, то , т. е. отклонения уравнения регрессии при а ₂ ¹ 0 от фактических значений результирующего показателя у минимальны и фактор х ₂ является существенным.

Если r_{y 12}» 0, то , т. е. можно принять коэффициент а ₂ = 0, т. к. он не способствует повышению точности.