Множественная регрессия и корреляция

Лекция 2.

При решении практических задач исследователи сталкиваются с тем, что корреляционные связи не ограничиваются связями между двумя признаками: результативным у и факторным х. В действительности результативный признак зависит от нескольких факторных. Например, инфляция тесно связана с динамикой потребительских цен, розничным товарооборотом, численностью безработных, объемами экспорта и импорта, курсом доллара, количеством денег в обращении, объемом промышленного производства и другими факторами.

В условиях действия множества факторов показатели парной корреляции оказываются условными и неточными. Количественно оценить влияние различных факторов на результат, определить форму и тесноту связи между результативным признаком у и факторными признаками х₁, х₂,..., x_k можно методами множественной (многофакторной) корреляции.

Многофакторный корреляционно-регрессионный анализ сводится к решению следующих задач:

• обосновать взаимосвязи факторов, влияющих на исследуемый показатель;

• определить степень влияния каждого фактора на результативный признак путем построения модели-уравнения множественной регрессии, которая позволяет установить, в каком направлении и на какую величину изменится результативный показатель при изменении каждого фактора, входящего в модель;

• количественно оценить тесноту связи между результативным признаком и факторами.

Включение в уравнение множественной регрессии того или иного набора факторов связано прежде всего с представлением исследователя о природе взаимосвязи моделируемого показателя с другими экономическими явлениями. Факторы, включаемые во множественную регрессию, должны отвечать следующим требованиям:

1) быть количественно измеримыми;

2) не должны быть коррелированны между собой и тем боле находиться в точной функциональной связи.

Наличие между двумя факторами весьма тесной линейной связи (парный коэффициент корреляции r_хх превышает по абсолютной величине 0,7) называется коллинеарностью, а между несколькими факторами — мультиколлинеарностью.

Мультиколлинеарность – это нестрогая линейная зависимость между факторными признаками, которая приводит к следующим нежелательным последствиям:

1. Оценки параметров становятся ненадежными, они обнаруживают большие стандартные ошибки, малую значимость, в то же время модель является значимой, т.е. значение множественного коэффициента корреляции завышено;

2. Небольшое изменение исходных данных приводит к существенному изменению оценок параметров модели;

3. Оценки параметров модели имеют неправильные знаки или неоправданно большие значения, что делает модель непригодной для анализа и прогнозирования;

4. Становится невозможным определить изолированное влияние факторов на результативный показатель.

В наибольшей степени ответственным за мультиколлинеарность будет тот признак, который теснее связан с другими факторами модели (он имеет высокие по модулю значения коэффициентов парной линейной корреляции). Поэтому, если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами.

Пример. Проверим наличие мультиколлинеарности между факторами х₁ (возраст, лет), х₂ (стаж работы, лет), х₃ (выработка шт./смену ), которые могут оказывать влияние на результативный признак - заработная плата. Для этого построим корреляционную матрицу. Из матрицы видно, что между признаками имеется довольно сильная линейная зависимость, т.к. . Вследствие этого требуется устранить один из факторов.

Таблица 1

	y	x₁	x₂	х₃
y
x₁	0,853056
x₂	0,849877	0,935263
x₃	0,778766	0,615448	0,69661

Из модели следует исключить фактор х₂, т.к. он теснее связан с третьим фактором, чем фактор х₁: .

Определившись с набором факторов, исследователи переходят к построению многофакторной эконометрической модели. Математически задача сводится к нахождению аналитического выражения, наилучшим образом описывающего связь факторных признаков с результативным, т.е. к отысканию функции вида:

у = f(x₁, х₂,..., x_k).

Выбрать форму связи довольно сложно. Эта задача на практике основывается на априорном теоретическом анализе изучаемого явления и подборе известных типов математических моделей.

Среди многофакторных регрессионных моделей выделяют линейные (относительно независимых переменных) и нелинейные.

Наиболее простыми для построения, анализа и экономической интерпретации являются многофакторные линейные модели, которые содержат независимые переменные только в первой степени:

где a – свободный член, параметр, представляющий собой среднее значение y при x₁=х₂=…=х_k=0.

b_j – коэффициент регрессии при j- омфакторе (j=1;k). Характеризует среднее изменение признака-результата у в связи с изменением соответствующего фактора х_j на единицу, при условии, что прочие факторы модели не изменяются и фиксированы на средних уровнях;

y_i – значение признака-результата для i –го наблюдения;

x_i – значение j- гофактора для i –го наблюдения;

- случайная составляющая результативного признака i –го наблюдения.

Если связь между результативным признаком и анализируемыми факторами нелинейна, то выбранная для ее описания нелинейная многофакторная модель (степенная, показательная и т.д.):

Степенная - ;.

Экспонента – ;

Гипербола – ;

может быть сведена к линейной путем линеаризации.

Параметры уравнения множественной регрессии, как и парной, рассчитываются методом наименьших квадратов, при этом решается система нормальных уравнений с k + 1 неизвестными:

где х_ij — значение j -го факторного признака в i -м наблюдении;

у_i — значение результативного признака в i -м наблюдении.

Как правило, прежде чем найти параметры уравнения множественной регрессии, определяют и анализируют парные коэффициенты корреляции:

При этом систему нормальных уравнений можно видоизменить таким образом, чтобы при вычислении параметров регрессии использовать уже найденные парные коэффициенты корреляции. Для этого в уравнении регрессии заменяют переменные у, х₁, х₂,..., x_k переменными t_i, полученными следующим образом:

Эта процедура называется стандартизацией переменных. В результате осуществляется переход от натурального масштаба переменных х_ij к центрированным и нормированным отклонениям t_ij _. В стандартизированном масштабе среднее значение признака равно 0, а среднее квадратическое отклонение равно 1, т.е. .

При переходе к стандартизированному масштабу переменных уравнение множественной регрессии принимает вид:

где (j = 1, k) — стандартизированные коэффициенты регрессии.

-коэффициент характеризует изменение исследуемого показателя в зависимости от изменения одного фактора при постоянном уровне остальных. Иначе, -коэффициент показывает, на какую часть сигмы () изменилось бы значение результата, если бы соответствующий j -фактор изменился на сигму (), а прочие факторы не изменились бы.

Кроме того, -коэффициенты позволяют оценить степень воздействия факторных признаков на результат. В силу того что все -коэффициенты выражены в одинаковых единицах измерения, при ₂ > ₃ фактор х₂ сильнее влияет на результативный признак, чем фактор х₃.

К уравнению множественной регрессии в стандартизованном масштабе применяется МНК. -коэффициенты определяются из следующей системы уравнений:

Связь коэффициентов множественной регрессии b_i со стандартизованными коэффициентами описывается соотношением . Параметр а определяется как .

В двухфакторном регрессионном анализе найти уравнение регрессии в стандартизированном масштабе можно через формулы:

, .

На основе линейного уравнения множественной регрессии:

могут быть найдены частные уравнения регрессии:

В отличие от парной регрессии частные уравнения регрессии характеризуют изолированное влияние фактора на результат, ибо другие факторы закреплены на неизменном среднем уровне. Это позволяет на основе частных уравнений регрессии определять частные коэффициенты эластичности:

где b_j – коэффициент регрессии при j- омфакторе;

‒ частное уравнение регрессии.

Для того чтобы оценить сравнительную силу влияния факторов, по каждому фактору рассчитывают средние коэффициенты эластичности:

,

где — среднее значение j -го факторного признака;

— среднее значение результативного признака;

— коэффициент регрессии при j-м факторном признаке.

Расчет коэффициента эластичности дополняет экономический анализ. Данный коэффициент показывает, на сколько процентов следует ожидать изменения результативного показателя при изменении фактора на 1% и неизменном значении других факторов.

Практическая значимость уравнения множественной регрессии оценивается с помощью показателя множественной корреляции и его квадрата – коэффициента детерминации. Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком, или оценивает тесноту совместного влияния на результат.

Независимо от формы связи показатель множественной корреляции может быть найден как индекс множественной корреляции:

где — общая дисперсия результативного признака;

— остаточная дисперсия, характеризующая отклонения фактических уровней результативного признака y_i отрассчитанных по уравнению множественной регрессии .

При линейной зависимости признаков формула индекса корреляции может быть представлена следующим выражением:

Формула индекса множественной корреляции для линейной регрессии получила название линейного коэффициента множественной корреляции или совокупного коэффициента корреляции.

При линейной форме связи расчет совокупного коэффициента корреляции можно также выполнить, используя парные коэффициенты корреляции:

где b₁, b₂,..., b_k — параметры уравнения множественной регрессии

в натуральном масштабе.

Наряду с измерением совместного влияния отобранных факторов на результативный признак важно определить воздействие каждого фактора при элиминировании его взаимосвязи с остальными (что возможно, когда последние зафиксированы на постоянном уровне). Для решения данной задачи при линейной связи применяют частные коэффициенты корреляции, а для нелинейной - частные индексы детерминации.

В общем виде при наличии k факторов для уравнения:

коэффициент частной корреляции, измеряющий влияние на у фактора х_k при неизменном уровне других факторов, можно определить по формуле:

,

где - множественный коэффициент детерминации всего комплекса

факторов с результатом;

- тот же показатель детерминации, но без введения в модель фактора х_k.

Пример. Рассмотрим методику корреляционно-регрессионного анализа на примере статистической обработки данных по предприятиям электросвязи

Таблица 2.2