GARCH-регрессия: формулировка и оценивание (конспект)

Формулировка GARCH-процесса

Обозначим через  условную дисперсию e_t по прошлой информации W_t:

Var(e _t|W_t) = .

В данном случае W_t — прошлая история процесса e_t:

W_t = {e_t–j}.

Если процесс e_t является GARCH(k,l), то он задается следующим рекуррентным соотношением для условной дисперсии e_t:

= m +  + . (1)

Предполагается, что

E(e _t|W_t) = 0,

а также что нормированные величины e_t независимы и одинаково распределены:

Регрессия с GARCH-процессом в ошибке

Регрессия с GARCH-процессом в ошибке имеет вид

y_t = X_t b + e _t, t = 1, ..., T.

Здесь y_t — зависимая переменная, X_t — вектор-строка (1 x m) независимых переменных, b — вектор-столбец (m x 1) коэффициентов регрессии, e_t — ошибка, представляющая собой GARCH-процесс.

В матричной записи

y = X b + e .
 
 

Функция правдоподобия

Предположение об условной нормальности e_t:

e _t  | ~ N(0,).

В предположении условной нормальности вклад в логарифмическую функцию правдоподобия t-го наблюдения равен

, t = 1, ..., T.

Здесь e_t и  следует рассматривать как функции от неизвестных параметров q:

e _t = e_t(q) и .

В вектор q должны войти параметры b, m, g, d и любые другие неизвестные параметры (см. ниже).

Логарифмическая функция правдоподобия равна

Оценки максимального правдоподобия по определению должны максимизировать логарифмическую функцию правдоподобия  по неизвестным параметрам q.

Оценки максимального правдоподобия являются корнями уравнения правдоподобия:

Начальные значения условной дисперсии

Для того, чтобы использовать рекуррентную формулу (1) для расчета условной дисперсии, используемой в функции правдоподобия, нужны начальные значения , t = min{1, k + 1 –l}, ..., k. Один из способов — рассматривать эти начальные значения как параметры, которые требуется оценить. Обозначим эти параметры через h_t (= ), тогда рекуррентная формула примет вид:

=  (2)

Можно также использовать вместо начальных значений безусловную дисперсию:

t = min{1, k + 1 – l}, ..., k,

где

При этом предполагается, что

то есть, что GARCH-процесс стационарен.

В дальнейшем рассмотрим только первый способ (с параметрами h_t). При этом в вектор q следует включить и h_t.

Если, GARCH-процесс стационарен, то с асимптотической точки зрения выбор начальных приближений не играет роли.

Метод оценивания

Для оценивания модели можно применить следующий общий итерационный метод:

, (3)

где

—

градиент логарифмической функции правдоподобия (вектор-столбец),  — оценка информационной матрицы, r — номер итерации.

Стационарная точка итераций () соответствует решению уравнения правдоподобия:

Алгоритм (3) на практике применяют обычно в несколько модифицированном виде:

,

где l > 0. Такая модификация нужна для повышения устойчивости алгоритма. Например, при выборе l = 1 функция правдоподобия может уменьшится или шаг может попасть в недопустимую область (в GARCH-модели это случай, когда одна из оценок условной дисперсии становится отрицательной). В таких случаях множитель l уменьшают до тех пор, пока не достигнут требуемого — увеличения функции правдоподобия или попадания в допустимую область.

Информационную матрицу можно оценить разными методами. Это, например, может быть матрица Гессе логарифмической функции правдоподобия со знаком минус:

.

при этом итерации (3) соответствуют классическому методу Ньютона. К сожалению, в модели GARCH матрицу Гессе довольно трудно вычислять.

Другой метод (его применяли те, кто предложил модель GARCH — Энгл, Боллерслев) называется методом BHHH (или методом внешнего произведения градиентов, OPG). В этом методе информационная матрица оценивается следующим способом:

где G — матрица вкладов в градиент отдельных наблюдений:

Однако, по-видимому, наилучшим методом для оценивания GARCH является следующий. В нем оценка информационной матрицы получается по формуле:

где  — информационная матрица для t-гонаблюдения условная по прошлой информации W_t:

Для применения метода нужны формулы для расчета условной информационной матрицы t-го наблюдения,, и для расчета градиента . Градиент удобно разложить на вклады отдельных наблюдений:

.

Таким образом, требуется вычислить вклады в градиент, 

Вычисление условной информационной матрицы t-го наблюдения и вклада в градиент t-го наблюдения

Продифференцируем, чтобы получить формулу для вклада в градиент t-го наблюдения:

Здесь и в дальнейшем мы будем опускать аргумент q.

Введем обозначения

, , , .

В этих обозначениях вклад в градиент t-го наблюдения равен

Поскольку условно по прошлой информацииW_t вектора Q_t и S_t являются детерминированными, то

Несложно показать, что

, , .

Отсюда

Ниже мы подробно разберем как вычислять градиенты

и 

которые нужны для вычисления Q_t и S_t.

Искусственная регрессия

Эти преобразования показывают, что r-й шаг итерационного алгоритма (4) имеет в данном случае вид

,

где Q, S, x, v — матрицы и вектора, составленные из Q_t, S_t, x_tиv_t соответственно. Шаг этого алгоритма, как несложно увидеть, можно вычислить с помощью следующей регрессии:

Заметим также, что оценка ковариационной матрицы в этой регрессии, полученная на последней итерации (когда метод сошелся), является состоятельной оценкой ковариационной матрицы оценок максимального правдоподобия в GARCH-модели:

Таким образом, эта регрессия представляет собой то, что называется искусственной регрессией.

В качестве критерия остановки можно взять нецентральный коэффициент детерминации из искусственной регрессии:

Можно считать, что метод сошелся, если регрессия практически не объясняет зависимую переменную, т.е. если величина мала ( < f). На практике неплохо работает правило остановки c f = 10^–11.

Вычисление градиентов остатков

Для полного описания алгоритма требуется указать способ вычисления градиентов и 

Поскольку по определению

e _t(q) = y_t – X_t b,

то

Если регрессоры отсутствуют, то есть, если y_t — это непосредственно GARCH-процесс e_t с нулевым математическим ожиданием, то градиент равен нулю и, соответственно Q_t = 0^T. При этом искусственная регрессия упрощается до регрессии v на S (множитель  не влияет на оценки регрессии, но должен входить в ковариационную матрицу, поэтому его лучше не отбрасывать).

Вычисление градиентов условных дисперсий

Обозначим

Формулу для этих величин получим, дифференцируя по q соотношение (2).

При t = min{1, k+1–l}, ..., k вектор-строка H_t, будет состоять из нулей, только на месте параметра h_t будет стоять 1. При t > k вектор H_t вычисляется рекуррентно:

Здесь  — непосредственная производная условной дисперсии по параметрам:

Сверху в формуле подписаны параметры, по которым берется производная.

Начальные приближения

В алгоритме большую роль играет выбор начальных приближений параметров q = q⁰. Неправильный выбор может вызвать переполнение при вычислениях. Можно предложить следующие начальные приближения:

Для вектора коэффициентов регрессииb можно использовать оценки обычного метода наименьших квадратов:

Затем на основе остатков из регрессии можно вычислить оценку безусловной дисперсии:

Параметры и выбираются положительными и такими, что

Можно взять, например,

Другой вариант — выбирать и случайно.

Затем на основе оценки безусловной дисперсии и коэффициентов g_jи d_j вычисляется начальное приближение для m:

В качестве начальных приближений параметров h_tможно взять оценку безусловной дисперсии:

Алгоритм вычислений

Сначала вычисляются начальные приближения параметров. Следует следить, чтобы они оказались в допустимой области, т.е. вычисленные на их основе условные дисперсии все были положительными.

После этого идут итерации:
 

• Вычислить остатки e_t(q) = y_t – X_t b.

 
• Вычислить условные дисперсии  по рекуррентной формуле (2).

 
• Вычислить градиенты остатков 

 
• Вычислить градиенты условных дисперсий H_t.

 
• Вычислить Q, S, x и v.

 
• Оценить искусственную регрессию и получить направление изменения параметров D.

 
• Проверить выполнение правила остановки ( < f).

 
• Выбрать коэффициент l так, чтобы новое значение параметров  оказалось в допустимой области и давало больший уровень функции правдоподобия, чем , т.е. .

 
• Начать новую итерацию.

Материалы по GARCH-моделям
На начальную страницу