Линейная модель множественной регрессии

Модель множественной регрессии строится в том случае, если коэффициент множественной корреляции показал наличие связи между исследуемыми переменными.

Общий вид линейной модели множественной регрессии: yi=β0+β1x1i+…+βmxmi+εi,

где yi – значение i-ой результативной (зависимой, эндогенной) переменной,

x1i…xmi – значения факторных переменных; β0…βm - неизвестные коэффициенты модели множественной регрессии; εi – случайные ошибки модели множественной регрессии.

При построении нормальной линейной модели множественной регрессии учитываются 5 условий:

1) факторные переменные x1i…xmi - неслучайные или детерминированные величины, которые не зависят от распределения случайной ошибки модели регрессии βi;

2) математическое ожидание случайной ошибки модели регрессии равно нулю во всех наблюдениях:

3) дисперсия случайной ошибки модели регрессии постоянна для всех наблюдений:

4) между значениями случайных ошибок модели регрессии в любых двух наблюдениях отсутствует систематическая взаимосвязь, т.е. случайные ошибки модели регрессии не коррелированны между собой (ковариация случайных ошибок любых двух разных наблюдений равна нулю):

Это условие выполняется в том случае, если исход данные не являются временными рядами;

5) (на основании 3 и 4 условий) случайная ошибка модели регрессии - это случайная величина, подчиняющейся нормальному закону распределения с нулевым математическим ожиданием и дисперсией G2: εi~N(0, G2).

Общий вид нормальной линейной модели парной регрессии в матричной форме:Y=X* β+ε,

Где

– случайный вектор-столбец значений результативной переменной размерности (n*1), представляющий собой n наблюдений значений yj,

- матрица значений факторной переменной размерности (n*(m+1)). Первый столбец является единичным, потому что в модели регрессии коэффициент β0 умножается на единицу;

– вектор-столбец неизвестных коэф-тов (параметров) модели регрессии размерности ((m+1)*1), подлежащий оцениванию

– вектор-столбец случайных отклонений (возмущений) ошибок модели регрессии размерности (n*1).

Включение в линейную модель множественной регрессии случайного вектора-столбца ошибок модели обусловлено тем, что практически невозможно оценить связь между переменными со 100% точностью.

Условия построения нормальной линейной модели множественной регрессии, записанные в матричной форме:

1) факторные переменные x1j…xmj – неслучайные или детерминированные величины, которые не зависят от распределения случайной ошибки модели регрессии εi.

В терминах матричной записи Х называется детерминированной матрицей ранга (k+1), т.е. столбцы матрицы X линейно независимы между собой и ранг матрицы Х равен m+1<n; т.е. ранг матрицы X должен быть равен числу оцениваемых параметров m+1

2) математическое ожидание случайной ошибки модели регрессии = нулю во всех наблюдениях;

3) предположения о том, что дисперсия случайной ошибки модели регрессии является постоянной для всех наблюдений и ковариация случайных ошибок любых двух разных наблюдений равна нулю, записываются с помощью ковариационной матрицы случайных ошибок нормальной линейной модели множественной регрессии:

Где G2 – дисперсия случайной ошибки модели регрессии ε; In – единичная матрица размерности (n*n).

4) случайная ошибка модели регрессии ε является независимой и независящей от матрицы Х случайной величиной, подчиняющейся многомерному нормальному закону распределения с нулевым математическим ожиданием и дисперсией G2: ε→N(0;G2In.

В нормальную линейную модель множественной регрессии должны входить факторные переменные, удовлетворяющие следующим условиям:

1) данные переменные должны быть количественно измеримыми;

2) каждая факторная переменная должна достаточно тесно коррелировать с результативной переменной;

3) факторные переменные не должны сильно коррелировать друг с другом или находиться в строгой функциональной зависимости.