Фиктивные переменные в регрессионной модели 1 страница

В линейную модель множественной регрессии, как правило, включаются количественные факторы X ₁, X ₂, …, X_p, принимающие значения из некоторого интервала, непрерывного либо дискретного. Однако может возникнуть необходимость учесть влияние на зависимую переменную Y и факторов, не измеряемых в числовой шкале (например, формы собственности предприятия, сезонности, региона, климатических условий, пола работника, его уровня образования и т.п.). Такие качественные факторы могут иметь два и более атрибута (градации). Чтобы ввести качественный фактор в регрессионную модель, его необходимо преобразовать в количественную переменную, т.е. присвоить каждому атрибуту те или иные числовые значения. Эту преобразованную переменную называют фиктивной (условной), а модель регрессии, включающую в себя хотя бы одну фиктивную переменную, называют моделью с переменной структурой. Основной целью построения такой модели является учет влияния неоднородности качественной структуры исследуемой совокупности.

В качестве фиктивных обычно используют бинарные переменные, принимающие только два значения (уровня): «0» или «1». Такие переменные также называются двоичными, дихотомическими, альтернативными, или булевыми. К примеру, если необходимо изучить зависимость общей рентабельностипредприятия Y не только от количественных факторов X ₁, X ₂, …, X_p, но и от фактора «форма собственности», то в модель вводят фиктивную переменную Z ₁, принимающую значения: z ₁=1 — если предприятие негосударственное и z ₁=0 — если предприятие государственное.

Регрессионная модель рентабельности, в этом случае, примет вид:

(3.58)

Параметр регрессии g₁ при фиктивной переменной Z ₁ показывает, на сколько в среднем рентабельность негосударственных предприятий в исследуемой совокупности выше, чем государственных при неизменных значениях остальных факторов X ₁, X ₂, …, X_p. Если не учитывать различия, связанные с формой собственности, то они могут либо уйти в остаточную вариацию результата Y, ухудшив модель, либо смешаться с влиянием тех или иных количественных факторов, искажая меру их влияния на Y.

В модель множественной регрессии можно одновременно ввести несколько фиктивных переменных Z ₁, Z ₂, …, Z_u:

(3.59)

Обычно значение, равное единице, присваивают фиктивной переменной для той группы исследуемых объектов, у которых значение результата Y предположительно в среднем выше, чем у объектов альтернативной группы. Положительный знак коэффициента уравнения регрессии при фиктивной переменной и его статистическая значимость в дальнейшем подтверждают это предположение. При отрицательном знаке следует сделать обратный вывод.

Применение фиктивной переменной с другими значениями или с б о льшим числом уровней затрудняет содержательную экономическую интерпретацию соответствующего коэффициента уравнения регрессии. Например, если число k уровней качественного признакаболее двух (), то в принципе в регрессионную модель можно было бы ввести дискретную переменную, принимающую такое же количество значений. Так, если расширить трактовку фактора «форма собственности» до трех групп: государственные, кооперативные и частные предприятия, то при построении модели рентабельности можно рассматривать три значения (k =3) фиктивной переменной Z ₁, например: z ₁=1 — если предприятие государственное, z ₁=2 — если кооперативное, и z ₁=3 — если частное. Однако содержательная интерпретация коэффициента уравнения регрессии при Z ₁ тогда будет невозможна. Вместо этого в модель следует ввести бинарных переменных и для учета влияния формы собственности включают бинарные переменные — Z ₁₁ и Z ₁₂:

(3.60)

где z ₁₁=1 — если предприятие частное, z ₁₁=0 — во всех остальных случаях; z ₁₂=1 — если предприятие кооперативное, z ₁₂=0 — во всех остальных случаях.

Третьей бинарной переменной, очевидно, не требуется: еслипредприятие государственное, то это будет отражено парой значений z ₁₁=0 и z ₁₂=0. Более того, вводить третью бинарную переменную Z ₁₃ со значениями z ₁₃=1, если предприятие государственное и z ₁₃=0 — в остальных случаях, нельзя, так как это приведет к невозможности получения оценок параметров модели при фиктивных переменных методом наименьших квадратов.

Параметры модели при Z ₁₁ и Z ₁₂ интерпретируются следующим образом. Параметр g₁₁ показывает, на сколько средняя рентабельность частных предприятий при прочих равных условиях выше средней рентабельности государственных предприятий, которые приняты за базу для сравнения. Аналогично параметр g₁₂ показывает превышение средней рентабельности кооперативных предприятий над этим показателем у государственных предприятий.

Модели регрессии (3.58) — (3.60) называются моделями без ограничений. Если значения каких-либо фиктивных переменных равны нулю, то получаются частные модели регрессии. Так, если в модели (3.60) все значения фиктивных переменных равны нулю: z ₁₁=0 и z ₁₂=0, то получается модель (3.2), которая в этом случае называется базисной моделью, или моделью регрессии с ограничениями. Данная модель является частной моделью государственного предприятия. Частная модель регрессии частного предприятия (z ₁₁=1, z ₁₂=0) образуется путем добавления параметра g₁₁ к свободному коэффициенту b₀:

(3.61)

Аналогично частная модель кооперативного предприятия (z ₁₁=0, z ₁₂=1):

(3.62)

На практике могут использоваться регрессионные модели только с фиктивными переменными-факторами. Пусть, например, изучаются различия в средней стоимости квадратного метра общей площади квартиры (переменная Y), в зависимости от района города, типа дома и этажа (фиктивные переменные Z ₁, Z ₂ и Z ₃ соответственно). Модель регрессии в этом случае может иметь вид:

(3.63)

где z ₁=1 — если дом расположен в центральном районе города, z ₁=0 — если дом расположен в периферийном районе; z ₂=1 — если дом кирпичный, z ₂=0 — если дом панельный; z ₃=1 — если квартира расположена на средних этажах, z ₃=0 — если квартира расположена на крайних этажах.

Базисной моделью здесь является модель средней стоимости квадратного метра квартиры на крайних этажах (z ₃=0) в панельном доме (z ₂=0), расположенном в периферийном районе города (z ₁=0). Параметр g₀ модели (3.63) и показывает среднюю стоимость квадратного метра такой квартиры. Параметр g₁ характеризует разницу в средней стоимости квадратного метра квартир, расположенных в центральном и периферийном районах города, параметр g₂ — эту разницу в зависимости от типа дома, параметр g₃ — в зависимости от этажа.

Параметры модели с фиктивными переменными оцениваются по исходным данным обычным методом наименьших квадратов. Предварительно следует провести проверку на коллинеарность, причем как фиктивных переменных между собой, так и фиктивных переменных с количественными факторами (см. § 3.4).

Уравнение регрессии модели (3.59) выглядит следующим образом:

(3.64)

где g ₁, g ₂, …, g_u — оценки соответствующих параметров g₁, g₂, …, g _u модели.

После построения уравнения регрессии проверяется его статистическая значимость в целом и значимость отдельных коэффициентов соответственно по критериям Фишера и Стьюдента. Значимость коэффициента при фиктивной переменной на принятом уровне значимости a свидетельствует о существенном (значимом) различии между значениями результата Y для разных уровней фиктивной переменной и, соответственно, групп исследуемых объектов.

Если значимость коэффициентапри фиктивной переменной не установлена, то разница между градациями соответствующего качественного фактора признается несущественной. Если значение t -статистики при этом превышает по абсолютной величине единицу, то фиктивная переменная все же может считаться в какой-то степени информативной. Однако, если t -статистика по абсолютной величине меньше единицы, то соответствующую фиктивную переменную следует исключить из модели и заново построить уравнение регрессии уже без нее. Следует, однако, учитывать, что незначимость коэффициента при фиктивной переменной может быть вызвана и недостаточным объемом выборки.

Возвратимся к рассмотренным выше примерам. Пусть строится модель с одной фиктивной переменной (3.58) и уравнение регрессии будет иметь вид:

(3.65)

Если коэффициент g ₁ признается статистически значимым на принятом уровне a, то это означает, что разница между рентабельностью частных и государственных предприятий в исследуемой совокупности признается существенной, а фиктивная переменная Z ₁ введена в модель обоснованно.

Пусть, к примеру, исследуется зависимость рентабельности однородных предприятий (зависимая переменная Y, %) от стоимости основных фондов (фактор X ₁, млн. руб.) и формы собственности (фиктивная переменная Z ₁: z ₁=1— если предприятие негосударственное, z ₁=0 — если предприятие государственное), и по имеющимся данным было получено уравнение регрессии

Базисной моделью здесь является модель рентабельности государственного предприятия (z ₁=0), уравнение регрессии которой

Предположим, что коэффициент при фиктивной переменной Z ₁ оказался статистически значимым на принятом уровне a=0,05. Тогда можно утверждать, что рентабельность негосударственных предприятий в среднем на 4,34 % выше, чем государственных. Коэффициент регрессии при переменной X ₁ показывает, что рост стоимости основных фондов на 1 млн. руб. приводит в среднем к снижению рентабельности на 0,032 % как государственных, так и негосударственных предприятий.

Уравнение регрессии модели (3.60) выглядит следующим образом:

(3.66)

Пусть, к примеру, коэффициент g ₁₁ оказался статистически значимым, а коэффициент g ₁₂ — незначимым. Тогда разница между рентабельностью частных и государственных предприятий признается существенной, а разница между рентабельностью кооперативных и государственных предприятий — несущественной. Если t -статистика коэффициента g ₁₂ при этом по абсолютной величине меньше единицы, то фиктивную переменную Z ₁₂ следует исключить из модели и перейти к построению модели с одной фиктивной переменной (3.58).

Допустим, исследуется зависимость рентабельности однородных предприятий (зависимая переменная Y, %) от стоимости основных фондов (переменная X ₁, млн. руб.) и формы собственности (бинарные переменные Z ₁₁ и Z ₁₂: z ₁₁=1 — если предприятие частное, z ₁₁=0 — во всех остальных случаях; z ₁₂=1 — если предприятие кооперативное, z ₁₂=0 — во всех остальных случаях), и было построено уравнение регрессии

Видно, что рост стоимости основных фондов на 1 млн. руб. приводит к снижению рентабельности всех предприятий в среднем на 0,028 %.

Базисной моделью здесь является модель рентабельности государственного предприятия (z ₁₁=0, z ₁₂=0), для которой уравнение регрессии

Пусть коэффициенты при фиктивных переменных Z ₁₁ и Z ₁₂ оказались статистически значимыми на принятом уровне a=0,05. Уравнение регрессии частной модели рентабельности частного предприятия (z ₁₁=1, z ₁₂=0) примет вид:

Таким образом, средняя рентабельность частных предприятий при одинаковой стоимости основных фондов на 2,76 % выше средней рентабельности государственных предприятий.

Аналогично для кооперативных предприятий (z ₁₁=0, z ₁₂=1) уравнение регрессии частной модели

Видно, что рентабельность кооперативных предприятий оказалась в среднем на 1,98 % выше рентабельности государственных предприятий.

Разница между коэффициентами при фиктивных переменных Z ₁₁ и Z ₁₂ — %, показывает, на сколько в среднем рентабельность частных предприятий выше рентабельности кооперативных предприятий.

Уравнение регрессии модели только с фиктивными переменными (3.63) будет иметь вид:

(3.67)

Пусть, например, по имеющимся данным было получено уравнение регрессии модели средней стоимости квадратного метра квартиры

и все коэффициенты при фиктивных переменныхоказались статистически значимыми на принятом уровне a. Эти коэффициенты интерпретируются следующим образом: средняя стоимость квадратного метра квартиры на крайних этажах (z ₃=0) в панельном доме (z ₂=0), расположенном в периферийном районе города (z ₁=0), составляет 532,1 у.е.; если дом располагается в центральном районе, то средняя стоимость квадратного метра возрастает на 187,6 у.е.; кирпичный дом дополнительно повышает среднюю стоимость квадратного метра на 142,4 у.е., а расположение квартиры на средних этажах — на 92,3 у.е.

Следует иметь в виду, что надежные оценки параметров модели (3.63) могут быть получены только при построении уравнения регрессии по достаточно большому числу наблюдений. Обычно при построении такой модели объем выборки должен превышать число факторов в шесть и более раз.

Решение типовых задач

Пример 3.1

Изучается зависимость чистой годовой прибылистраховой компании (зависимая переменная Y, тыс. руб.) от следующих факторов:

· X ₁ — годовой размер собственных средств (тыс. руб.);

· X ₂ — годовой размер страховых резервов (тыс. руб.);

· X ₃ — годовой размер страховых премий (тыс. руб.);

· X ₄ — годовой размер страховых выплат (тыс. руб.);

· X ₅ — численность страховых агентов;

· X ₆ — форма собственности (0 — государственная, 1 — частная):

Компания	Y	X ₁	X ₂	X ₃	X ₄	X ₅	X ₆
1. А
2. Б
3. В
4. Г
5. Д
6. Е
7. Ж
8. З
9. И
10. К
11. Л
12. М
13. Н
14. О
15. П
16. Р
17. С
18. Т
19. У
20. Ф
21. Х
22. Ц
23. Ч
24. Ш
25. Щ
26. Ю
27. Я

Требуется:

1. Составить матрицу парных коэффициентов корреляции между всеми исследуемыми переменными и выявить коллинеарные факторы.

2. Построить уравнение линейной регрессии с полным перечнем факторов. Оценить статистическую значимость уравнения и его коэффициентов с помощью критериев Фишера и Стьюдента.

3. Построить уравнение регрессии, не содержащее коллинеарных факторов. Проверить статистическую значимость уравнения и его коэффициентов.

4. Построить уравнение регрессии, содержащее только информативные факторы. Проверить статистическую значимость уравнения и его коэффициентов.

Пункты 5 — 9 относятся к уравнению регрессии, построенному при выполнении пункта 4.

5. Оценить качество и точность уравнения регрессии.

6. Дать экономическую интерпретацию коэффициентам уравнения регрессии и сравнительную оценку силы связи факторов с результатом.

7. Построить график остатков и проверить выполнение предпосылок обычного метода наименьших квадратов.

8. Рассчитать прогнозное значение годовой прибыли Y, если прогнозные значения факторов составят 75 % от своих максимальных значений.

9. Построить доверительный интервал прогноза фактического значения годовой прибыли Y c надежностью 80 %.

Решение

Для решения задачи используем табличный процессор EXCEL.

1. С помощью надстройки «Анализ данных… Корреляция» (см. § 5.2) строим матрицу парных коэффициентов корреляции между всеми исследуемыми переменными (табл. 3.3).

Таблица	3.3
Матрица парных коэффициентов корреляции

	Y	X1	X2	X3	X4	X5	X6
Y
X1	0,519
X2	-0,273	0,030
X3	0,610	0,813	-0,116
X4	-0,572	-0,013	-0,022	-0,091
X5	0,297	0,043	-0,461	0,120	-0,359
X6	0,118	-0,366	-0,061	-0,329	-0,100	-0,290

Анализ значений коэффициентов корреляции между парами факторов Х ₁, Х ₂, …, Х ₆ показывает, что только коэффициент корреляции между факторами Х ₁ и Х ₃ превышает по абсолютной величине 0,8 (выделен в таблице заливкой). Факторы Х ₁ и Х ₃ являются, таким образом, коллинеарными.

2. С помощью надстройки «Анализ данных… Регрессия» (см. § 5.3) строим уравнение линейной регрессии с полным перечнем факторов. Результаты регрессионного анализа в EXCEL приведены в табл. 3.4. Уравнение регрессии с полным перечнем факторов имеет вид:

Таблица	3.4
Результаты регрессионного анализа модели с полным перечнем факторов

Регрессионная статистика
Множественный R	0,887
R-квадрат	0,787
Нормированный R-квадрат	0,723
Стандартная ошибка	230,3
Наблюдения
Дисперсионный анализ
	df	SS	MS	F	Значимость F
Регрессия		3921843,8	653640,6	12,33	8,20E-06
Остаток		1060461,1	53023,1
Итого		4982305,0
Уравнение регрессии
	Коэффициенты	Стандартная ошибка	t-статистика	P-Значение
Y-пересечение	541,8	610,4	0,888	0,385
X1	0,0680	0,0378	1,801	0,087
X2	-0,0561	0,0359	-1,562	0,134
X3	0,0606	0,0304	1,992	0,060
X4	-0,0998	0,0250	-3,989	0,001
X5	2,674	6,011	0,445	0,661
X6	275,0	108,4	2,536	0,020

Проверим статистическую значимость уравнения регрессии. Табличное значение F -критерия Фишера можно определить с помощью встроенной функции EXCEL «FРАСПОБР» (см. § 5.4). Для уровня значимости a=0,05 и чисел степеней свободы числителя (регрессии) (где p =6 — число факторов в модели) и знаменателя (остатка) табличное оно составляет F _таб=2,60.

Видно, что расчетное значение F -статистики Фишера

превышает табличное (см. «F» втабл. 3.4), что свидетельствует о статистической значимости уравнения регрессии в целом. На этот же факт указывает и то, что вероятность случайного формирования уравнения регрессии в том виде, в котором оно имеется, составляет 8,20×10^-6 (см. «Значимость F» втабл. 3.4), что ниже допустимого уровня значимости a=0,05.

Проверим статистическую значимость коэффициентов уравнения регрессии при факторах Х ₁, Х ₂, …, Х ₆ с помощью t -критерия Стьюдента:

Табличное значение t -критерия Стьюдента можно определить с помощью встроенной функции EXCEL «СТЬЮДРАСПОБР» (см. § 5.4). Для уровня значимости a=0,05 и числа степеней свободы остатка df = df _ост=20 оно составляет t _таб=2,086. Анализ данных в табл. 3.4показывает, что табличное значение t ‑критерия Стьюдента превышают по абсолютной величине t -статистики коэффициентов при факторах Х ₄, Х ₆, и эти коэффициенты признаются статистически значимыми. На тот же самый факт указывают и значения вероятности случайного формирования коэффициентов, которые ниже допустимого уровня значимости a=0,05 (см. «P-Значение»втабл. 3.4).

Что касается факторов Х ₁, Х ₂, Х ₃ и Х ₅ (выделены в табл. 3.4 заливкой), то t ‑статистики их коэффициентов меньше по абсолютной величине табличного значения t -критерия Стьюдента, а «P-Значение» выше уровня a=0,05. Данные коэффициенты не признаются статистически значимыми.