Автоковариационная и автокорреляционная функции

Пусть { Х _t } является стационарным ВР. Определим автоковариационную функцию (АКВФ) ряда { Х _t } при лаге (временном разделении) h как

γ _X (h) = Cov (Х _t+h, Х _t).

Автокорреляционная функция (АКФ) ряда { Х _t } при лаге h есть

ρ _Х (h) = γ _X (h) / γ _X (0) = Cor (Х _t ₊ _h, Х _t).

Можно показать, что для стационарного процесса АКВФ γ _X (h) и АКФ ρ _Х (h) обладают следующими свойствами:

1. γ _X (0) = Var (X_t); ρ _Х (0) = 1.

3. γ _X (h) = γ _X (- h), ρ _Х (h) = ρ _Х (- h) для всех h, т.е. γ _X (h) и ρ _Х (h) являются четными функциями и, следовательно, симметричны относительно лага h = 0. Это свойство следует из того факта, что временная разница между Х _t и Х _t ₊ _h является такой же, как и между Х _t и Х _t _- _h.

Несмотря на то, что АКФ можно вычислить для некоторых простых моделей ВР, на практике обычно начинают с анализа наблюдаемых данных { x ₁, x ₂,..., x_n }. Для оценки степени зависимости данных и подбора модели, которая отражает связь этих наблюдений, одним из значимых и важных средств является использование выборочной АКФ. В случае, когда данные представляют реализации стационарного ВР, выборочная АКФ дает оценку АКФ для { Х _t }. Такая оценка может быть использована для отбора из многих возможных моделей стационарных ВР приемлемого кандидата для отображения зависимости в данных. Например, при значениях выборочной АКФ, близких к нулю для ненулевых лагов, подходящей моделью для описания таких наблюдений может служить шумовой сигнал, в котором даже близкие по временному смещению значения мало связаны между собой.

Приведем формулы для вычисления выборочной АКФ. Пусть x ₁, x ₂ ,..., x_n являются наблюдениями ВР. Выборочное среднее есть

Выборочная АКВФ определяется как

Для выборочной АКФ имеем

Пример 1.1. На рис.1.6 показан график 100 значений ВР, смоделированных из нормального распределения с нулевым средним и единичной дисперсией. На рис.1.7 приведена выборочная АКФ этого ряда, рассчитанная до лага, равного 15 временным единицам. На этом рисунке в первом, втором и третьем столбцах слева от поля диаграмм приведены, соответственно, величины лагов, значения АКФ и ее ошибки; в первом и втором столбцах справа - значения критерия Бокса-Льюинга (тест на случайность) и уровень значимости. Значения АКФ находятся в пределах доверительного интервала, поэтому можно сделать вывод о независимости соседних значений приведенного ВР.

Рис.1.6. 100 смоделированных значений

Рис.1.7. Выборочная автокорреляционная функция

Введем понятие белого шума, под которым подразумевается ВР, компонентыкоторого { Х _t } представляют собой последовательность независимых и идентично распределенных СВ с конечными средним и дисперсией. В частности, если Х _t - нормально распределены с нулевым средним и дисперсией σ², то такой ряд называется гауссовым белым шумом (white noise), для которого можно записать

{ Х _t } ~ WN (0, σ²).

Концепция белого шума широко используется при построении моделей ВР. Например, семейство классических процессов ARMA, о которых будем говорить ниже, формируется из «строительных блоков», представляющих собой белый шум.

Для ряда, который является белым шумом, все АКФ равны нулю вследствие независимости СВ. В практических задачах, когда выборочные значения АКФ какого-либо ряда близки к нулю, считается, что анализируемый ряд есть белый шум.

Временной ряд является линейным процессом, если его можно представить следующим образом

(1.1)

где μ - математическое ожидание X_t; a_t - белый шум.

Соотношение (1.1) представляет собой теорему Вольда, из которой следует, что всякий процесс может быть выражен в виде линейной комбинации значений белого шума с разными весовыми коэффициентами ψ _i. Волд доказал, что стационарный процесс, который является чисто недетерминированным (рurely non-deterministic) всегда может быть представлен в виде (1.1).

Для линейного ВР, описываемого равенством (1.1), динамическая структура процесса X_t управляется посредством весовых коэффициентов. Если X_t - слабо стационарный ряд, можно получить его среднее и дисперсию, используя независимость { a_t }, в виде

где σ _a ² - дисперсия a_t.

Кроме того, автоковариация процесса X_t при лаге, равном l, определяется следующим образом

Следовательно, веса ψ _i связаны с автокорреляциями процесса X_t соотношением

(1.2)

Для того чтобы выражение (1.1) имело смысл, необходимо потребовать выполнения условия сходимости по вероятности, так как суммируются случайные величины. Это условие записывается в виде

Поскольку реализации белого шума не наблюдаемы, можно считать, что весовые коэффициенты определены с точностью до множителя. При этом значение ψ₀принимается равным единице, что и установлено в равенстве (1.2).

Чем больше весовой коэффициент ψ _l, тем больше влияние случайного возмущения в момент t – l на текущий момент t. Конечно, бесконечное число слагаемых в выражении (1.1) приводит к значительным проблемам вычислительного характера, но оказалось, что во многих практических ситуациях достаточно рассматривать частные случаи представления Вольда, когда число слагаемых - конечно.

Кроме рассмотренной выше АКФ между Х _t и Х _t ₊ _h, обратимся к анализу корреляции между этими же значениями после того, как совместное линейное влияние на промежуточные значения Х _t ₊ ₁, Х _t ₊ _2, ..., Х _t ₊ _h _-1 будет устранено. Условная корреляция Corr (Х _t, Х _t ₊ _h | Х _t ₊ ₁,..., Х _t ₊ _h _-1) называется частной автокорреляционной функцией (ЧАКФ) в задачах анализа ВР.

ЧАКФ ряда является функцией его АКФ. Отметим, что АКФ определяется ковариацией между значениями процесса, отстоящими на h шагов по времени друг от друга. Однако на поведение процесса статистически влияет не только его значение в момент, равный τ шагов назад, но и все промежуточные значения процесса между моментами t и t – h. ЧАКФ исключает влияние всех промежуточных значений ряда и показывает лишь "чистую" взаимосвязь между моментами t и t – h.

Частная автокорреляция может быть выведена следующим образом. Рассмотрим регрессионную модель, в которой зависимая переменная Х _t ₊ _k, взятая из стационарного процесса с нулевым средним, регрессирует на k задержанных переменных Х _t ₊ _k _- ₁, Х _t ₊ _k _- ₂,..., Х _t, т.е.

(1.3)

где - коэффициенты регрессионного уравнения; - помеха в уравнении регрессии.

Умножив обе стороны уравнения (1.3) на величину Х _t ₊ _k _- _j и определив математическое ожидание, получим

следовательно,

(1.4)

Для j = 1, 2,..., k имеем следующую систему уравнений

Последовательно используя правило Крамера для k = 1, 2, …, имеем

…(1.5)

Таким образом, значения определяют ЧАКФ на разных лагах. В итоге, частная автокорреляция между Х _t и Х _t ₊ _k определяется коэффициентами уравнения регрессии, связывающего переменную Х _t ₊ _k с k задержанными переменными Х _t ₊ _k _- ₁, Х _t ₊ _k _- ₂,..., Х _t. Отметим, что алгебраическое вычисление ЧАКФ представляет собой достаточно трудоемкий процесс, поэтому в большинстве прикладных пакетов ее определение проводится численным образом с использованием стандартных программ. В качестве иллюстрации на рис.1.8 приведена выборочная ЧАКФ для данных, использованных в примере 1.1.

Рис.1.8 Выборочная частная автокорреляционная функция