Тема 12. Методы сравнения номинальных данных

 

Глава 2. Методы проверки статистических гипотез. Корреляции и методы сравнения.

 

χ ² Пирсона (Chi - square или хи - квадрат Пирсона) или критерий согласия

 

Данный метод сравнения используется, если Ваши данные измерены в номинальной шкале и имеют две и более градации. Однако, это не означает, что если ваши данные представлены в других шкалах, то этот метод использовать нельзя.

 

При сопоставлении нескольких градаций чаще всего проверяют гипотезу о том, различаются ли по численности соответствующие доли совокупности.

 

Таким образом, при выявлении достоверных различий, можно сделать вывод о том, что распределение предпочтений является неравномерным. Однако, при использовании более двух градаций, мы не можем утверждать о том, что в какой-то конкретной ячейке наблюдений больше, а в какой-то меньше. Для того, чтобы выявить в какой ячейке больше, а в какой меньше наблюдений, необходимо воспользоваться дополнительной статистической проверкой.

 

Это касается не только данного метода сравнения. При использовании любых методов множественных сравнений (например, ANOVA Краскела-Уоллиса, χ ² Фридмана) для конкретизации полученных результатов (подтвердилась гипотеза о не тождественности результатов) необходимо использовать парные сравнения величин.

 

Распределение вероятных значений случайной величины χ ² непрерывно и ассиметрично. Оно зависит от числа степеней свободы и приближается к нормальному распределению по мере увеличения числа наблюдений.

 

Поэтому применение критерия χ ² к оценке дискретных распределений сопряжено с некоторыми погрешностями, которые сказываются на его величине, особенно на малочисленных выборках. Для получения более точных оценок выборка, распределяемая в вариационный ряд, должна иметь не мене 50 вариант.

 

Таблицы сопряженности

 

Таблицы сопряженности или кросстабуляция - это процесс объединения двух (или нескольких) таблиц частот так, что каждая ячейка в построенной таблице представляется единственной комбинацией значений или уровней табулированных переменных.

Каждая ячейка таблицы сопряженности содержит информацию о количестве объектов, попадающих в группу, определенную комбинацией двух значений. В применении к анализу опросных листов это означает, что исследователь может, например, получить информацию о количестве мужчин, имеющих информацию о товаре (количество человек, ответивших на вопрос о поле – "муж.", и на вопрос о известности товара – "известен").

 

Обычно используются категориальные или номинальные переменные или переменные с относительно небольшим числом значений. Если вы хотите табулировать непрерывную переменную (например, доход), то вначале ее следует перекодировать, разбив диапазон изменения на небольшое число интервалов (например, доход: низкий, средний, высокий).

 

Простейшая форма кросстабуляции - это таблица сопряженности 2x2, в которой значения двух переменных "пересечены" (сопряжены) на разных уровнях и каждая переменная принимает только два значения, т.е. имеет два уровня.

 

Результатом данного метода являются следующие показатели:

 

1) χ ²Пирсона-это наиболее простой критерий проверки значимости связи между двумя

 

категоризованными переменными. Критерий Пирсона основывается на том, что в двувходовой таблице ожидаемые частоты при гипотезе "между переменными нет зависимости" можно вычислить непосредственно.

 

2) Йетса χ ². Аппроксимация статистики χ ² для таблиц 2x2 с малыми числом наблюдений в

 

ячейках может быть улучшена уменьшением абсолютного значения разностей между ожидаемыми и наблюдаемыми частотами на величину 0,5 перед возведением в квадрат (это и есть поправка Йетса). Поправка Йетса, делающая оценку более умеренной, обычно применяется в тех случаях, когда таблицы содержат только малые частоты, например, когда некоторые ожидаемые частоты становятся меньше 10.

 

3) Точный критерий Фишера (критерий Фишера-Ирвина, точный метод Фишера). Этот критерий применим только для таблиц 2x2. Критерий основан на следующем рассуждении. Даны маргинальные частоты в таблице (частоты, расположенные по краям таблицы), предположим, что обе табулированные переменные независимы. Зададимся вопросом: какова вероятность получения наблюдаемых в таблице частот, исходя из заданных маргинальных? Таким образом, критерий Фишера вычисляет точную вероятность появления наблюдаемых частот при нулевой гипотезе (отсутствие связи между табулированными переменными). В таблице результатов приводятся как односторонние, так и двусторонние уровни.

 

4) Фи-квадрат представляет собой меру связи между двумя переменными в таблице 2x2. Его

 

значения изменяются от 0 (нет зависимости между переменными; χ ² = 0.0) до 1 (абсолютная зависимость между двумя факторами в таблице).

 

5) χ ²Макнимара применяется,когда частоты в таблице2x2представляют зависимые выборки.Например, наблюдения одних и тех же индивидуумов до и после эксперимента. Вычисляются два значения χ ²: A/D и B/C. A/D χ ² проверяет гипотезу о том, что частоты в ячейках A и D

 

(верхняя левая, нижняя правая) одинаковы. B/C χ ² проверяет гипотезу о равенстве частот в ячейках B и C (верхняя правая, нижняя левая).

 

Хотелось бы отметить, если Вам необходимо просто сравнить наблюдения в двух группах, то проще всего это сделать в программе Statistica, но если Вам необходимо провести более сложные сравнения, например, исследование влияние расы на количество детей в семье и времени обучения в средней школе, тогда Вам необходимо использовать программу SPSS.

 

Q - критерий Кохрена

 

Q-критерий Кохрена – это развитие критерия χ ² Макнемара. Критерий проверяет, значимо или нет различаются между собой несколько сравниваемых переменных, принимающих значения 0-

 

1.

Тема 13. Дисперсионный анализ (Часть 1)

 

Глава 3. Методы проверки статистических гипотез. Дисперсионный и регрессионный анализы

 

Дисперсионный анализ (Analysis Of Variance или сокращенно ANOVA) применяется для исследования влияния одной или нескольких качественных переменных (факторов) на одну зависимую количественную переменную.

 

В основе дисперсионного анализа лежит предположение о том, что одни переменные могут рассматриваться как причины (факторы, независимые переменные), а другие как следствия (зависимые переменные). Таким образом, исходя из этого, при описании результатов ANOVA мы будем говорить о наличие зависимости между зависимой и независимой переменной.

 

Основной целью ANOVA является исследование значимости различия между средними с помощью сравнения дисперсий. Разделение общей дисперсии на несколько источников, позволяет сравнить дисперсию, вызванную различием между группами, с дисперсией, вызванной внутригрупповой изменчивостью. Сравнивая компоненты дисперсии друг с другом посредством F - критерия Фишера, можно определить, какая доля общей вариативности результативного признака обусловлена действием регулируемых факторов.

 

Исходя из вышесказанного, целью дисперсионного анализа является проверка статистической значимости различия между средними (для групп или переменных). Эта проверка проводится с помощью разбиения суммы квадратов на компоненты, т.е. с помощью разбиения общей дисперсии на части, одна из которых обусловлена случайной ошибкой (то есть внутригрупповой изменчивостью), а вторая связана с различием средних значений. Последняя компонента дисперсии затем используется для анализа статистической значимости различия между средними значениями. Если это различие значимо, то принимается гипотеза о существовании различия между средними.

 

Исходным материалом для дисперсионного анализа служат данные исследования трех и более выборок, которые могут быть как равными, так и неравными по численности, как связными, так и несвязными.

 

Типичная схема эксперимента сводится к изучению влияния независимой переменной (одной или нескольких) на зависимую переменную.

 

Обязательным условием ANOVA является то, чтоб зависимая переменная была представлена в шкале отношений, интервалов или порядка, а влияющие (независимые) переменные имели бы нечисловую природу (номинальная или категориальная шкала). Зависимая переменная рассматривается как изменяющаяся под влиянием независимых переменных. Независимая переменная представляет собой качественно определенный (номинальный) признак, имеющий две и более градаций. Каждой градации независимой переменной соответствует выборка объектов, для которых определены значения зависимой переменной.

 

Выделяют однофакторный ANOVA, многофакторный ANOVA, ANOVA с повторными измерениями и многомерный ANOVA (или MANOVA).

 

Эти варианты ANOVA мы рассмотрим в следующей теме.

 

Тема 14. Дисперсионный анализ (Часть 2)

 

Глава 3. Методы проверки статистических гипотез. Дисперсионный и регрессионный анализы

 

 

Однофакторный ANOVA

 

Этот вид дисперсионного анализа позволяет проверить гипотезу о существовании влияния изучаемого фактора на зависимую переменную.

 

Математическая модель однофакторного ANOVA предполагает выделение в общей изменчивости зависимой переменной двух ее составляющих: межгрупповая составляющая изменчивости обусловлена различием средних значений под влиянием фактора; внутригрупповая составляющая изменчивости обусловлена влиянием неучтенных причин.Соотношение этих двух составляющих изменчивости и есть основной показатель, определяющий статистическую значимость влияния фактора.

 

При выявлении уровня ошибки выше или равно 5% (т.е. р≥0,05), подтверждается гипотеза о равенстве средних значений. А при уровне ошибки меньше 5% (т.е. р<0,05) подтверждается гипотеза о различие по крайней мере двух средних значений.

 

Ограничения метода: 1)дисперсии выборок должны быть однородны;для этого смотрят нарезультаты критерия Ливена, направленный на выявление однородности дисперсий (т.е. если при проведении теста Ливена p≥0,05, значит Вы можете смело применять для своих данных дисперсионный анализ); 2) формально численность выборок не должно быть меньше двух объектов.

 

Альтернатива –сравнение независимых выборок по критериюH-Краскела-Уоллеса.

 

Основным показателем для принятия решения является F - критерий Фишера и, конечно же, его уровень достоверности.

 

Если Ваш фактор состоит из более 2-х градаций, то Вам необходимо дополнительно проводить множественные сравнения средних значений,чтобы можно было сделать вывод о том,какразличаются друг от друга средние значения для разных градаций фактора. Это касается не только однофакторного ANOVA, но и других видов дисперсионного анализа, если Ваш фактор имеет более 2-х градаций.

 

Одним из актуальных вопросов на этапе множественных сравнений становится выбор критерия.

 

В программе Statistica представлены следующие методы: LSD (Least Significant Difference)

 

 

Fisher, поправка Бонферрони, метод Шеффе, метод Tukey HSD (Honestly Significant Differences), метод HSD для неравных размеров выборок, метод Ньюмана-Кеулса, метод Дункана и Даннет.

 

Здесь все зависит от Вас самих, какой метод множественного сравнения Вам использовать. Однако, необходимо отметить следующие моменты. Так, среди исследователей распространены методы Шеффе и LSD Фишера. Здесь необходимо учитывать то, что критерий Шеффе является грубым критерием и особенно пригоден в тех случаях, когда имеется подозрение о неравенстве дисперсий выборок между собой, а при использовании критерия LSD Фишера возникает вероятность ошибки первого рода (т.е. ложноположительный результат, выявление различий, даже если их нет). Та же ситуация с увеличением ошибки первого рода наблюдается и с использованием метода Tukey HSD. Метод Бонферрони работает, если число сравнений невелико, обычно не больше 8. При большем числе сравнений критерий Ньюмана-Кеулса и Тьюки дают более точную оценку вероятности альфа. Критерий Дункана, как и критерий Ньюмена-Кеулса, основан на статистике размаха. Соответственно, если Вы используете в анализе неравные выборки, тогда выбрать можно метод HSD для неравных размеров выборок.

 

Многофакторный ANOVA

 

Данный дисперсионный анализ предназначен для изучения влияния нескольких независимых факторов (переменных) на зависимую переменную. Отличительной особенностью многофакторного ANOVA от однофакторного является возможность оценить не только влияние каждой независимой переменной в отдельности, но и взаимодействие факторов – зависимость влияния одних факторов от уровней других факторов.

 

Таким образом, в результате мы получаем влияние 1-ой независимой переменной, влияние 2-ой независимой переменной, …., взаимовлияние независимых переменных.

 

При использовании многофакторного анализа порой получаются достаточно интересные результаты, которые невозможно было бы получить с помощью предыдущего дисперсионного анализа.

 

Ограничениями метода выступают однородность дисперсий и выборки не должны заметно различаться по численности.

 

Тема 15. Дисперсионный анализ (Часть 3)

 

Глава 3. Методы проверки статистических гипотез. Дисперсионный и регрессионный анализы

 

 

ANOVA с повторными измерениями

 

Данный вид дисперсионного анализа используется, когда разным градациям фактора соответствует одна и та же выборка (зависимые выборки). С другой стороны, эти выборки можно рассматривать как независимые и применить обычный вариант ANOVA, но ANOVA с повторными измерениями имеет преимущество – он позволяет исключить из общей дисперсии данных ту ее часть, которая обусловлена индивидуальными различиями в уровне зависимой переменной, т.е. из остаточной внутригрупповой изменчивости вычитается компонент, обусловленный индивидуальными различиями. Это позволяет данному варианту дисперсионного анализа быть более чувствительным к влиянию изучаемых факторов, за счет уменьшения дисперсии ошибки факторной модели.

 

Существует два типа моделей ANOVA с повторными измерениями:

 

1) Одномерная модель основана на предположении,что каждому уровню внутригрупповогофактора соответствует повторное измерение одной и той же зависимой переменной (следовательно, эти изменения положительно коррелируют). Данный одномерный подход основан на применении F-отношений, но имеет ограничения по допущению о сферичности ковариационно-дисперсионной матрицы, т.е. дисперсии зависимой переменной для разных уровней внутригруппового фактора не различаются и корреляции между повторными измерениями есть и они положительны. Данное предположение проверяется с помощью теста сферичности ковариационно-дисперсионной матрицы Моучли. В программе Statistica если Вы не выберете зависимые переменные для проверки внутригрупповых эффектов, то Вам будет недоступна проверка на сферичность с помощью теста Моучли.

 

2) Многомерная модель свободна от допущения о коррелированности измерений зависимойпеременной (т.е. о сферичности). В этом случае применяется не F-критерий, а многомерные тесты, такие как «След Пиллая» (Pillai's Trace) и «λ-Вилкса» (Wilks' Lambda). При использовании межгрупповых факторов дополнительно проверяется допущение об идентичности ковариационно-дисперсионных матриц, соответствующих разным уровням межгрупповых факторов. Для проверки идентичности используется в данном виде ANOVA используют М-тест Бокса (Box's M-test).

 

 

Многомерный ANOVA (MANOVA)

 

MANOVA применяется для изучения эффектов влияния факторов не на одну, а на несколько переменных (многомерную зависимую переменную). Таким образом, для каждого объекта имеются несколько зависимых переменных, которые подвергаются дисперсионному анализу. Итак, MANOVA позволяет проверить не только гипотезы о влиянии факторов на каждую зависимую переменную в отдельности, но и гипотезу о влиянии факторов на всю совокупность зависимых переменных, как на одну многомерную переменную, или как я ее называю модель.

 

MANOVA может применяться как альтернатива ANOVA с повторными измерениями в случае, если не выполняется ее основное допущение о сферичности ковариационно-дисперсионной матрицы. Однако следует учитывать, что MANOVA является менее мощной, но более сложной процедурой, особенно для выборок небольшой численности.

 

Допущения у MANOVA такие же, как и у других видов ANOVA:

 

1) допущение о нормальном распределении зависимых переменных – не проверяется, так как MANOVA также как и остальные виды ANOVA устойчив к отклонениям от нормального вида;

 

2) равенство ковариационно-дисперсионных матриц – как и для ANOVA с повторными измерениями используется М-тест Бокса (Box's M-Test).

 

3) дополнительно для одномерного этапа необходимо выполнение допущения об однородности дисперсий – проверяется с помощью критерия Ливена (Levene's Test).

 

4) также дополнительно необходимо выполнение допущения о коррелированности зависимых переменных – для этого применяется тест сферичности остатков ковариационной матрицы Бартлета (Bartlett's Test of Sphericity).

 

Основными показателями MANOVA являются:

 

- многомерные критерии – след Пиллая, λ-Вилкса, след Хотеллинга и критерий Роя (или наибольший корень Роя);

 

- одномерные критерии – F-отношения для проверки гипотез о влиянии факторов и их взаимодействий на каждую из зависимых переменных в отдельности.