Тема 4. Использование многомерных статистических методов в задачах принятия решений 2 страница

Если ввести следующие обозначения:

g – число классов;

p – число дискриминантных переменных;

n_i – число объектов (наблюдений) класса i;

n– общее число объектов всех классов

то должны выполняться следующие условия:

1. g>=2;

2. по крайней мере два объекта в каждом классе n_i>=2;

3. любое число дискриминантных переменных при условии, что оно не превосходит общее число объектов за вычетом двух 0<p<(n-2).

Схема использования дискриминантного анализа в теории принятия решений следующая.

Пусть имеются две выборки X и Y, каждая из которых описывает определенную, заранее известную, группу объектов. Каждый объект выборки описывается определенным количеством показателей. Таким образом, каждую выборку можно представить в виде матрицы X (x _ij) и Y (y_ij), где индекс i показывает количество объектов входящих в данную выборку, j – количество показателей, характеризующих данный объект. Пусть в выборку Х входит n₁ показателей, в выборку Y – n ₂ показателей. Для простоты решения будем считать, что количество показателей, характеризующих объекты каждой выборки, равно и примем его равным трем.

Целью дискриминантного анализа является отнесение нового объекта Z, имеющего показатели (z₁,z₂,z₃) к одной из группы объектов.

Для решения задачи необходимо:

 

1. Определить векторы средних для выборок X и Y

2. Определить оценки ковариационных матриц: S_x =(s_ki) _x и S_y =(s_ki) _y

 

3. Рассчитать несмещенную оценку суммарной ковариационной матрицы

      

4. Определить матрицу S^-1, обратную к матрице S.

5. Вычислить вектор оценок коэффициентов дискриминантной функции

6. Рассчитать оценки векторов значений дискриминантной функции для матриц исходных данных U_x = Xa, U_y = Ya.

7. Вычислить средние значения оценок дискриминантной функции

       ,

8. Определить константу .

9. Определить к какой группе относится заданный объект Z. Для этого рассчитывается дискриминантная функция к -ого наблюдения u_k = z_{k 1} * a ₁ + z_{r 2} * a ₂ + z_{k 3} * a ₃. Если u_k > C, то наблюдение необходимо отнести к совокупности х, в противном случае – к совокупности y.

Корреляционный анализ.

Корреляционный анализ, разработанный К.Пирсоном и Дж.Юлом, является одним из методов статистического анализа взаимозависимости нескольких признаков - компонент случайного вектора Х. Он применятся тогда, когда данные наблюдений можно считать случайными и выбранными из генеральной совокупности, распределенной по многомерному нормальному закону. Основная задача корреляционного анализа состоит в оценке корреляционной матрицы генеральной совокупности по выборке и определении на ее основе оценок частных и множественных коэффициентов корреляции и детерминации.

Парный (частный) коэффициент корреляции характеризует тесноту линейной зависимости между двумя переменными соответственно на фоне действия (при исключении влияния) всех остальных показателей, входящих в модель. Они изменяются в пределах от -1 до +1, причем чем ближе коэффициент корреляции к +1, тем сильнее зависимость между переменными. Если коэффициент корреляции больше 0, то связь положительная, а если меньше нуля - отрицательная.

Множественный коэффициент корреляции характеризует тесноту линейной связи между одной переменной (результативной) и остальными, входящими в модель; изменяется в пределах от 0 до 1. Квадрат множественного коэффициент корреляции называется множественным коэффициентом детерминации. Он характеризует долю дисперсии одной переменной (результативной), обусловленной влиянием всех остальных (аргументов), входящих в модель.

Исходной для анализа является матрица Х:

размерности (n * k), i -я строка которой характеризует i -е наблюдение (объект) по всем k -м показателям (j=1, 2,..., k).

В корреляционном анализе матрицу X рассматривают как выборку объема n из k -мерной генеральной совокупности, подчиняющейся k -мерному нормальному закону распределения.

По выборке определяют оценки параметров генеральной совокупности, а именно: вектор средних (), вектор среднеквадратических отклонений S и корреляционная матрица R порядка k:

= ,    R=       S=  

Матрица R является симметричной (r _{i j} = r _ji) и положительно определенной, где

; ;     

x_ij - значение i -го наблюдения j -го фактора; r_{i j} - выборочный парный коэффициент корреляции, характеризует тесноту линейной связи между показателями x_j и x _j. При этом r_{j j} является оценкой генерального парного коэффициента корреляции

Кроме того, находятся точечные оценки частных и множественных коэффициент корреляции любого порядка. Например, частный коэффициент корреляции (k-2)-го порядка между факторами X₁ и X₂ равен:

 

 

где R_jl - алгебраическое дополнение элемента rje корреляционной матрицы R. При этом R_jl =(-1) ^{i + j} * М_jl, где M_jl - минор, определитель матрицы, получаемой из матрицы R путем вычеркивания j -й строки и l -го столбца.

Множественный коэффициент корреляции (k-1)-го порядка фактора (результативного признака) X₁ определяется по формуле:

 

где - определитель матрицы R.

В двумерной модели параметрами связи являются коэффициент корреляции с (или квадрат, называемый коэффициентом детерминации) и коэффициенты регрессии в_yx и в_xy.

Заметим, что в двумерной модели достаточно проверить значимость только коэффициента корреляции. Если коэффициент корреляции незначим, то признаки х и y считаются независимыми в генеральной совокупности.

Значимость частных и парных коэффициентов корреляции проверяется по t -критерию Стъюдента. Наблюдаемое значение критерия находится по формуле:

где r - соответственно оценка частного или парного коэффициент корреляции/

Напомним, что проверяемый коэффициент корреляции считается значимым, т. е. гипотеза H₀: с=0 отвергается с вероятностью ошибки , если t_набл по модулю будет больше, чем t_кр, определяемое по таблицам t-распределение для заданного  и н=n - l- 2.

 

Дисперсионный анализ

Изучение реальных процессов предполагает получение не только прогнозной оценки исследуемого показателя, но и количественной характеристики степени влияния на него различных факторов, а также оценки возможных последствий их изменений в будущем. В результате опыта проводятся наблюдения над целым рядом случайных величин. При этом возникает задача изучения взаимосвязи между случайными величинами, которая решается в три этапа:

– проводится оценка существенности влияния одного фактора на другой с помощью дисперсионного анализа;

– проводится численная оценка связи с помощью корреляционного анализа;

– строятся функциональные зависимости посредством регрессионного анализа.

Дисперсионный анализ. Дисперсионный анализ служит для статистического установления влияния отдельных факторов на изменчивость какого-либо признака, значения которого могут быть получены опытным путем в виде выборки из генеральной совокупности случайной величины . Под факторами понимаются различные независимые показатели, количество которых может быть различным. Конкретная реализация фактора  называется уровнем (группой) этого фактора. В зависимости от количества факторов различают однофакторный и многофакторный дисперсионный анализ. Величина  называется результативным признаком (фактором) . Идея дисперсионного анализа состоит в том, что дисперсия признака  разлагается на сумму дисперсий, вызванных влиянием факторов, дисперсий, вызванных взаимодействием факторов и случайной дисперсии, вызванной неучтенными случайными факторами. Затем указанные дисперсии сравниваются.

Однофакторный д исперсионный анализ. Однофакторный дисперсионный анализ позволяет статистически обосновать степень влияния на результативный признак  одного фактора  для различных уровней или групп , , …, , например, установление зависимости выполненных на стройке за смену работ (признак ) от работающей бригады (группы , , …, ). В таблице 1 представлены выборочные значения результирующего признака  для различных групп.

Таблица 1. Данные наблюдений для однофакторного дисперсионного анализа

Номера наблюдений	Уровни (группы) фактора
			…
1			…
2			…
…	…	…	…	…
			…
Групповая средняя			…

Здесь , , …,  – численность наблюдений в уровнях , , …,  соответственно, при этом .

Из таблицы находятся групповые средние , , и общая средняя = .

Изменчивость значений  от одного уровня к другому объясняется влиянием фактора  на результативный признак , а изменчивость тех же значений в пределах одного уровня характеризуется влиянием неучтенных случайных (остаточных) факторов.

Пусть , , …,  – математические ожидания результативного признака  соответственно при уровнях , , …, . Если для различных групп фактора  математические ожидания не изменяются, то считается, что результативный признак  не зависит от фактора , в противном случае такая зависимость имеется.

Поскольку числовые значения математических ожиданий неизвестны, то возникает задача проверки гипотезы :

в предположении выполнения следующих условий для каждой группы фактора:

1) наблюдения независимы и проводятся в одинаковых условиях,

1) наблюдения независимы и проводятся в одинаковых условиях,

2) результативный признак  имеет нормальный закон распределения с постоянной дисперсией для различных групп.

Поскольку числовые значения дисперсий различных групп неизвестны, то можно установить их равенство, проверив гипотезу о равенстве дисперсий :  с помощью статистики Бартлетта [7]: , имеющей распределение близкое к -распределению с  степенями свободы. Здесь

, ,

 – выборочная дисперсия -ой группы ().

При заданном уровне значимости  находится критическая точка = , определяющая правостороннюю критическую область . По выборочным данным вычисляется наблюдаемое значение статистики . Если > , то гипотеза :  отвергается, в противном случае принимается.

Если гипотеза :  подтверждается, то можно приступать непосредственно к процедуре однофакторного дисперсионного анализа, т.е. проверке гипотезы : .

Общая сумма квадратов отклонений (общая вариация) отдельных наблюдений  от общей средней , вызванная влиянием на  фактора  и случайных неучтенных (остаточных) факторов, вычисляется по формуле . Сумма  разлагается на сумму + , где =  – сумма квадратов отклонений между группами (межгрупповая вариация), вызванная влиянием фактора  на  и характеризующая рассеяние групповых средних около общей средней; =  – сумма квадратов отклонений внутри групп (остаточной вариации), вызванная влиянием на  остаточных факторов и характеризующая рассеяние отдельных наблюдений группы около ее средней.

По выборке значений результативного признака  находятся три несмещенные оценки , ,  дисперсии  случайной величины , причем  всегда является несмещенной оценкой, а ,  только при выполнении гипотезы : , т.е. только в том случае, когда фактор  не влияет на результативный признак .

Проверка нулевой гипотезы  основывается на сравнении оценок , . Для этого используется -статистика с  степенями свободы =  .

По статистическим данным вычисляется наблюдаемое значение статистики . Для заданного уровня значимости  по таблицам критических точек -распределения находится критическая точка статистики =  и строится правосторонняя критическая область . Если < , то нулевая гипотеза не отвергается, и в этом случае говорят, что влияние фактора  на признак  не подтвердилось выборочными наблюдениями.

Если в процессе анализа выявлено влияние фактора  на результативный признак , то степень данного влияния измеряется с помощью выборочного коэффициента детерминации , показывающего какая доля вариации  объясняется зависимостью результативного признака  от влияющего фактора .

Работа в Excel. Для анализа данных с помощью Критерия Бартлетта используется статистические функции

ДИСП(число1;число2;…),

ХИ2ОБР(вероятность;степени_свободы).

Таблица 2. Однофакторный дисперсионный анализ: дисперсии групп

ИТОГИ
Группы	Счет	Сумма	Среднее	Дисперсия
Столбец 1
Столбец 2
Столбец