Построение точечных оценок с помощью метода моментов. Вычисление эмпирических моментов

Предположим, что заранее известен вид теоретического распределения интересующего нас признака x, но параметры этого распределения не известны и их желательно найти как можно точнее по данным выборки.

Для решения задачи оценивания параметров теоретического распределения нам понадобится строить функции, зависящие от выборочных значений x₁,..., x_n. Любую функцию q(x₁,..., x_n), зависящую от выборки и поэтому являющуюся случайной величиной, принято называть статистикой. Так, -сумма наблюдений и среднее арифметическое значение служат примерами статистик. Чтобы оценки неизвестных параметров, то есть статистики, давали хорошее приближение неизвестных параметров распределения генеральной совокупности, они должны удовлетворять следующим требованиям:

- среднее значение оценки, взятое по всевозможным выборкам данного объёма, должно равняться истинному значению определяемого параметра; в этом случае оценку называют несмещённой;

- при увеличении объёма выборки оценка должна сходиться по вероятности к истинному значению параметра; в этом случае оценку называют состоятельной.

По выборке мы вычислим либо точечную оценку (значение подходящей статистики) для интересующего нас параметра, либо интервальную (т.е. интервал, с большой вероятностью накрывающий истинное значение параметра).

Очень часто параметры распределения вероятностей являются моментами распределения (или функциями от них). Например, нормальное распределение полностью определяется математическим ожиданием и дисперсией. Математическое ожидание является первым начальным моментом, а дисперсия – вторым центральным моментом распределения. Так что очень важно научиться строить оценки именно для моментов.

Начальный момент l -го порядка распределения вероятностей a _l находится по формулам:

- для дискретного распределения;

- для непрерывного распределения.

А l -й центральный момент b l по формулам:

- для дискретного распределения;

- для непрерывного распределения,

где m - математическое ожидание распределения, т.е. его первый начальный момент (суммирование выполняется по всем принимаемым значениям, интегрирование – по всей области определения).

Для построения точечных оценок для математического ожидания и дисперсии генеральной совокупности или любых других моментов сделаем очень простую вещь. Таблица статистического распределения выборки задает некоторое распределение вероятностей, а именно, распределение выборки. Представим себе, что все числа, полученные с помощью выборки, мы сложили в урну. Согласно классической схеме, если доставать случайным образом из урны числа, то вероятность р₁достать число х₁равна m₁/n, вероятность р₂достать число х₂равна m₂/n и так далее. То есть таблица статистического распределения действительно задает распределение выборки. Среднее, вычисленное для выборки по таблице статистического распределения, назовем эмпирическим средним. Его и возьмем в качестве оценки для математического ожидания генеральной совокупности. Дисперсию этого распределения назовем эмпирической дисперсией и ее возьмем в качестве оценки для дисперсии генеральной совокупности. Так же можно сосчитать и любые другие эмпирические моменты.

Выбирая оценками такие статистики, мы воспользовались методикой, предлагаемой методом моментов. Так называется метод, при котором в качестве оценок для моментов распределения берутся эмпирические моменты (или моменты эмпирического распределения). Его применяют в тех случаях, когда оцениваемый параметр интересующего нас распределения является функцией от моментов распределения. Тогда в эту функцию вместо неизвестных теоретических значений моментов подставляют эмпирические значения. Например, в нашем случае оцениваемые параметры сами являются моментами. Математическое ожидание – первый начальный, а дисперсия – второй центральный момент. В качестве оценок для них мы и берем первый начальный и второй центральные моменты выборки. Аналогично по выборке строятся эмпирические оценки для функций моментов более высокого порядка: асимметрии – третьего центрального момента, деленного на среднеквадратическое отклонение в третьей степени, и эксцесса – четвертого центрального момента, деленного на квадрат дисперсии.

Итак, по выборке мы построили эмпирическое распределение, затем по нему сосчитаем эмпирическое среднее и эмпирическую дисперсию и другие моменты. Вспомним формулы для вычисления математического ожидания и дисперсии и других моментов по таблице дискретного распределения и применим их к построенной по выборке таблице статистического распределения.

Вычисление эмпирических моментов по вариационному ряду производится по следующим формулам (во всех формулах n - объем выборки):

начальный эмпирический момент l -го порядка

; (3.3)

центральный эмпирический момент l -го порядка

. (3.4)

В случае, когда применяется группировка данных или просто одно и то же значение x_iв обрабатываемой последовательности повторяется m_iраз (задана таблица распределения), эти формулы приобретают следующий вид:

(3.5)

, (3.6)

где k – число разных значений вариант или, в случае группировки, интервалов.

Если формулу , применяемую для вычисления начального момента l-го порядка дискретной случайной величины, применить к эмпирическому распределению (когда в роли выступают ), то получим формулу (3.5), или, что то же, (3.3). В частности, - выборочное среднее. Обычно его обозначают . Итак,