Парная нелинейная регрессия

Естественно, что кроме линейных взаимосвязей между явлениями природы, и тем более общественного мира существуют связи нелинейные. Соответственно изучать нелинейные связи при помощи линейной регрессии было бы не верно, для этого необходимо использовать нелинейные регрессии.

Но использование нелинейных регрессий связанно следующим ограничением – так как, параметры уравнения регрессии находят при помощи МНК, решая систему нормальных уравнений, а этот метод позволяет оценивать параметры или линейных уравнений или уравнений приводимых к линейному виду, то выбор нелинейных регрессий ограничен – должна существовать возможность линеаризации данных функций.

Регрессии, приводимые к линейному виду, подразделяют на два класса:

I. нелинейные относительно включенного в модель фактора (независимой переменной), но линейны относительно результата (зависимой переменной).

К первому классу относятся такие функции как, например:

· полиномы разных степеней;

·  - полином второй степени

·  - полином третьей степени и т.д.

· равносторонняя гипербола: .

II. нелинейные относительно включенного в модель результата, но линейны относительно фактора.

Ко второму классу относятся такие функции как, например:

· степенная функция: .

· показательная: .

· экспоненциальная: .

 

Рассмотрим линеаризацию наиболее часто применяемых функций:

Линеаризация полиномов разных степеней

Проводится следующим образом.

В параболе второй степени,

                                                                                                      (9.52)

заменяя переменные , получим двухфакторное линейное уравнение регрессии:

                                                                                                    (9.53)

В параболе третьей степени,                               

                                                                                           (9.54)

заменяя переменные , получим трехфакторное линейное уравнение регрессии:

                                                                                          (9.55)

Аналогичным образом поступим с полиномами более высоких порядков.

Из полиномов наибольшее распространение получила парабола второго порядка.

МНК для оценки параметров функция регрессии по линеаризованной параболе второго порядка дает следующую систему уравнений:

                                                                             (9.56)

Пример 9.11. Имеются данные о средней прибыли (млн. руб.) и затратах на рекламу (млн. руб.) за декаду, по выборке, равной 15-ти предприятиям сферы торговли. Рассчитать функцию регрессии параболы второго порядка

Таблица 9.22

№
1	37,8	0,3
2	38,0	0,5
3	39,0	0,7
4	37,5	0,8
5	39,5	0,9
6	36,8	1,1
7	40,0	1,3
8	40,1	1,6
9	40,0	1,7
10	39,0	2,2
11	38,0	2,5
12	41,0	2,6
13	41,6	2,7
14	41,0	3,0
15	41,9	3,2

Решение. МНК для расчета параметров параболы второго порядка дает систему уравнений:

В таблице 9.23 рассчитаем все возможные значения.

                                                                                                                       

Таблица 9.23

№
1	37,80	0,30	0,09	0,027	0,0081	11,34	3,402	38,023560
2	38,00	0,50	0,25	0,125	0,0625	19,00	9,500	38,158005
3	39,00	0,70	0,49	0,343	0,2401	27,30	19,110	38,307508
4	37,50	0,80	0,64	0,512	0,4096	30,00	24,000	38,387907
5	39,50	0,90	0,81	0,729	0,6561	35,55	31,995	38,472071
6	36,80	1,10	1,21	1,331	1,4641	40,48	44,528	38,651694
7	40,00	1,30	1,69	2,197	2,8561	52,00	67,600	38,846375
8	40,10	1,60	2,56	4,096	6,5536	64,16	102,656	39,166634
9	40,00	1,70	2,89	4,913	8,3521	68,00	115,600	39,280917
10	39,00	2,20	4,84	10,648	23,4256	85,80	188,760	39,908803
11	38,00	2,50	6,25	15,625	39,0625	95,00	237,500	40,330713
12	41,00	2,60	6,76	17,576	45,6976	106,60	277,160	40,478879
13	41,60	2,70	7,29	19,683	53,1441	112,32	303,264	40,630810
14	41,00	3,00	9,00	27,000	81,0000	123,00	369,000	41,109192
15	41,90	3,20	10,24	32,768	104,8576	134,08	429,056	41,446938
Итого	591,20	25,10	55,01	137,573	367,7897	1004,63	2223,131	591,200005

 

Подставим эти значения в систему уравнений.

Разделим каждое из уравнений системы на число при , первое на 15, второе на 25,01 и третье на 55,01.

Далее вычтем из 5-го уравнения 4-е, и из 6-го уравнения 5-е. система примет вид:

Разделим каждое уравнение на число при , 7-е на 0,5183, а 8-е на 0,30924

Вычтем из 10-го уравнения 9-е

Значение параметра

Подставим значение параметра  в уравнение (9) и найдем значение параметра

Подставим значение параметров  в уравнение (1) и найдем значение параметра

Подставим параметры в уравнение

Подставляя в полученное уравнение    и  рассчитаем теоретические значения , занесем их в последний столбик таблицы.

 

 Линеаризация равносторонней гиперболы

                                                                                                     (9.57)

проводят, заменяя  на , в результате получим уравнение линейной регрессии:

                                                                                                                (9.58)

МНК для оценки параметров функция регрессии по линеаризованной равносторонней гиперболе дает следующую систему уравнений:

                                                                                               (9.59)

Также можно использовать уравнения:

                                                                                                               (9.60)

                                                                                                                  (9.61)

Пример 9.12. Имеются данные о средней прибыли (млн. руб.) и затратах на рекламу (млн. руб.) за декаду, по выборке, равной 15-ти предприятиям сферы торговли. Рассчитать функцию регрессии равносторонней гиперболы

Таблица 9.24

№
1	37,8	0,3
2	38,0	0,5
3	39,0	0,7
4	37,5	0,8
5	39,5	0,9
6	36,8	1,1
7	40,0	1,3
8	40,1	1,6
9	40,0	1,7
10	39,0	2,2
11	38,0	2,5
12	41,0	2,6
13	41,6	2,7
14	41,0	3,0
15	41,9	3,2

 

МНК для оценки параметров функция регрессии по линеаризованной равносторонней гиперболе дает следующую систему уравнений:

В таблице 9.25 рассчитаем все возможные значения:

Таблица 9.25

№
1	37,80	0,30	3,333333	126,000000	11,111111	36,808395
2	38,00	0,50	2,000000	76,000000	4,000000	38,266516
3	39,00	0,70	1,428571	55,714286	2,040816	38,891425
4	37,50	0,80	1,250000	46,875000	1,562500	39,086709
5	39,50	0,90	1,111111	43,888889	1,234568	39,238597
6	36,80	1,10	0,909091	33,454545	0,826446	39,459524
7	40,00	1,30	0,769231	30,769231	0,591716	39,612474
8	40,10	1,60	0,625000	25,062500	0,390625	39,770204
9	40,00	1,70	0,588235	23,529412	0,346021	39,810409
10	39,00	2,20	0,454545	17,727273	0,206612	39,956611
11	38,00	2,50	0,400000	15,200000	0,160000	40,016262
12	41,00	2,60	0,384615	15,769231	0,147929	40,033086
13	41,60	2,70	0,370370	15,407407	0,137174	40,048664
14	41,00	3,00	0,333333	13,666667	0,111111	40,089168
15	41,90	3,20	0,312500	13,093750	0,097656	40,111951
Итого	591,20	25,10	14,269937	552,158190	22,964285	591,199995

 

Подставим полученные значения в систему уравнений

Разделим первое уравнение на 15, а второе на 14,269937

Вычтем из второго уравнения первое

Подставим значение параметра  в первое уравнение и рассчитаем параметр

Уравнение регрессии примет вид

Подставляя в полученное уравнение регрессии значение , рассчитаем .

 

Линеаризация степенной функции

                                                                                                                   (9.62)

проводят путем логарифмирования обеих частей уравнения, получая уравнение вида:

                                                                                                       (9.63)

Обозначив через , получим линейное уравнение регрессии:

                                                                                                                  (9.64)

МНК для оценки параметров функция регрессии по линеаризованной степенной функции дает следующую систему уравнений:

                                                                                         (9.65)

Также можно использовать уравнения:

                                                                                                            (9.66)

                                                                                                                  (9.67)

Рассчитав параметры ,  и составив линейное уравнение регрессии необходимо провести его потенцирование, чтобы вернуться к степенной функции. 

                                                                                                 (9.68)

Пример 9.13. Имеются данные о средней прибыли (млн. руб.) и затратах на рекламу (млн. руб.) за декаду, по выборке, равной 15-ти предприятиям сферы торговли. Рассчитать степенную функцию

Таблица 9.26

№
1	37,8	0,3
2	38,0	0,5
3	39,0	0,7
4	37,5	0,8
5	39,5	0,9
6	36,8	1,1
7	40,0	1,3
8	40,1	1,6
9	40,0	1,7
10	39,0	2,2
11	38,0	2,5
12	41,0	2,6
13	41,6	2,7
14	41,0	3,0
15	41,9	3,2

Решение. Для расчета параметров данной функции проведем ее линеаризацию, прологарифмировав обе части уравнения

Обозначив через , получим линейное уравнение регрессии:

МНК для оценки параметров функция регрессии по линеаризованной степенной функции дает следующую систему уравнений:

В таблице 9.27 рассчитаем все возможные значения:

Таблица 9.27

№
1	37,80	0,30	1,577492	-0,522879	-0,824837	37,183851
2	38,00	0,50	1,579784	-0,301030	-0,475562	37,910774
3	39,00	0,70	1,591065	-0,154902	-0,246459	38,397333
4	37,50	0,80	1,574031	-0,096910	-0,152539	38,592153
5	39,50	0,90	1,596597	-0,045757	-0,073056	38,764817
6	36,80	1,10	1,565848	0,041393	0,064815	39,060772
7	40,00	1,30	1,602060	0,113943	0,182544	39,308870
8	40,10	1,60	1,603144	0,204120	0,327234	39,619441
9	40,00	1,70	1,602060	0,230449	0,369193	39,710581
10	39,00	2,20	1,591065	0,342423	0,544817	40,100534
11	38,00	2,50	1,579784	0,397940	0,628659	40,295293
12	41,00	2,60	1,612784	0,414973	0,669262	40,355237
13	41,60	2,70	1,619093	0,431364	0,698418	40,413002
14	41,00	3,00	1,612784	0,477121	0,769493	40,574705
15	41,90	3,20	1,622214	0,505150	0,819461	40,674075
Итого	591,20	25,10	23,929804	2,037398	3,301443	590,961438
В среднем			1,595320	0,135827	0,220096
				0,089930

 

 

      

Подставим полученные значения в уравнение

Выполним потенцирование полученного уравнения

 

Подставляя в полученное уравнение значение фактора , рассчитаем .

 

Линеаризация показательной функции

Показательная функция

                                                                                                                   (9.69)

также проводят путем логарифмирования обеих частей уравнения:

                                                                                                 (9.70)

Обозначив через , получим линейное уравнение регрессии:

                                                                                                                   (9.71)

МНК для оценки параметров функция регрессии по линеаризованной степенной функции дает следующую систему уравнений:

                                                                                             (9.72)

Также можно использовать уравнения:

                                                                                                              (9.73)

                                                                                                                  (9.74)

Рассчитав параметры ,  и составив линейное уравнение регрессии необходимо провести его потенцирование, что бы вернуться к показательной функции. 

                                                                                              (9.75)

Пример 9.14. Имеются данные о средней прибыли (млн. руб.) и затратах на рекламу (млн. руб.) за декаду, по выборке, равной 15-ти предприятиям сферы торговли. Рассчитать показательную функцию

Таблица 9.28

№
1	37,8	0,3
2	38,0	0,5
3	39,0	0,7
4	37,5	0,8
5	39,5	0,9
6	36,8	1,1
7	40,0	1,3
8	40,1	1,6
9	40,0	1,7
10	39,0	2,2
11	38,0	2,5
12	41,0	2,6
13	41,6	2,7
14	41,0	3,0
15	41,9	3,2

Решение. Для расчета параметров данной функции проведем ее линеаризацию, прологарифмировав обе части уравнения

Обозначив через , получим линейное уравнение регрессии:

МНК для оценки параметров функция регрессии по линеаризованной степенной функции дает следующую систему уравнений:

В таблице 9.29 рассчитаем все возможные значения:

Таблица 9.29

№
1	37,80	0,30	1,577492	0,473248	37,806262
2	38,00	0,50	1,579784	0,789892	38,032035
3	39,00	0,70	1,591065	1,113745	38,259157
4	37,50	0,80	1,574031	1,259225	38,373226
5	39,50	0,90	1,596597	1,436937	38,487635
6	36,80	1,10	1,565848	1,722433	38,717477
7	40,00	1,30	1,602060	2,082678	38,948692
8	40,10	1,60	1,603144	2,565031	39,298106
9	40,00	1,70	1,602060	2,723502	39,415272
10	39,00	2,20	1,591065	3,500342	40,006365
11	38,00	2,50	1,579784	3,949459	40,365268
12	41,00	2,60	1,612784	4,193238	40,485616
13	41,60	2,70	1,619093	4,371552	40,606323
14	41,00	3,00	1,612784	4,838352	40,970608
15	41,90	3,20	1,622214	5,191085	41,215278
Итого	591,20	25,10	23,929804	40,210718	590,987319
В среднем		1,673333	1,595320	2,680715
		0,867289

 

Получили линеаризованное уравнение

Произведем потенцирование линейного уравнения для возврата к показательной функции.

Подставим в полученное уравнение значения фактора , рассчитаем значения .