Representação espacial do estado de ARMA (p, q) de Hamilton

Eu tenho lido o capítulo 13 de Hamilton e ele tem a seguinte representação de espaço de estado para um ARMA (p, q). Seja Depois, o processo ARMA (p, q) é o seguinte: \ begin {alinhado} y_t - \ mu & = \ phi_1 (y_ {t-1} - \ mu) + \ phi_2 (y_ {t-2} - \ mu) + ... + \ phi_3 (y_ {t-3} - \ mu) \\ & + \ epsilon_t + \ theta_1 \ epsilon_ {t-1} +. .. + \ theta_ {r-1} \ epsilon_ {t-r + 1}. \ end {align} Em seguida, ele define a equação do estado da seguinte maneira:$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

e a equação de observação como:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Eu não entendo o que é o $\xi_t$ neste caso. Porque em sua representação AR (p) é $\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$ e em sua representação MA (1) é $\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$ .

Alguém poderia me explicar um pouco melhor?

Hamilton mostra que esta é uma representação correta no livro, mas a abordagem pode parecer um pouco contra-intuitiva. Deixe-me, portanto, primeiro dar uma resposta de alto nível que motive sua escolha de modelagem e depois elaborar um pouco sobre sua derivação.

Motivação :

Como deve ficar claro na leitura do Capítulo 13, há muitas maneiras de escrever um modelo dinâmico na forma de espaço de estado. Devemos, portanto, perguntar por que Hamilton escolheu essa representação específica. O motivo é que essa representação mantém baixa a dimensionalidade do vetor de estado. Intuitivamente, você pensaria (ou pelo menos eu pensaria) que o vetor de estado para um ARMA ( , ) precisa ter pelo menos a dimensão . Afinal, apenas observando digamos , não podemos inferir o valor de . No entanto, ele mostra que podemos definir a representação do espaço de estados de uma maneira inteligente que deixa o vetor de estado da dimensão de no máximo$p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Manter a dimensionalidade do estado baixa pode ser importante para a implementação computacional, eu acho. Acontece que sua representação no espaço de estados também oferece uma boa interpretação de um processo ARMA: o estado não observado é um AR ( ), enquanto a parte MA ( ) surge devido a um erro de medição.$p$$q$

Derivação :

Agora para a derivação. Observe primeiro que, usando a notação do operador lag, o ARMA (p, q) é definido como: onde deixamos para , e para e omitimos pois é pelo menos . Então, tudo o que precisamos mostrar é que suas equações de estado e observação implicam a equação acima. Seja o vetor de estado Agora observe o equação de estado. Você pode verificar se as equações a

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$basta mover as entradas para um período à frente e descartar no vetor de estado em . A primeira equação, definindo é, portanto, a relevante. Escrevendo: Como o segundo elemento de é o primeiro elemento de e o terceiro elemento de é o primeiro elemento de$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$e assim por diante, podemos reescrever isso, usando a notação de operador lag e movendo o polinômio lag para o lado esquerdo (equação 13.1.24 em H.): Portanto, o estado oculto segue um processo autoregressivo. Da mesma forma, a equação de observação é ou Isso não parece muito com um ARMA até agora, mas agora vem o parte agradável: multiplique a última equação por : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Mas, a partir da equação do estado (atrasada em um período), temos ! Portanto, o acima é equivalente a que é exatamente o que precisamos mostrar! Portanto, o sistema de observação de estado representa corretamente o ARMA (p, q). Eu estava realmente parafraseando Hamilton, mas espero que seja útil de qualquer maneira.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

É o mesmo que acima, mas pensei em fornecer uma resposta mais curta e concisa. Novamente, esta é a representação de Hamilton para um processo causal de ARMA ( , ), em que . Esse número será a dimensão do vetor de estado e é necessário fazer o número de linhas do O estado corresponde ao número de colunas da matriz de observação. Isso significa que também precisamos definir coeficientes para zero sempre que o índice for muito grande.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Equação de observação

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Equação de Estado

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$