Simulação de um processo gaussiano (Ornstein Uhlenbeck) com uma função de covariância exponencialmente decadente

Eu estou tentando gerar muitos draws (ou seja, realizações) de um processo de Gauss $e_i(t)$ , $1\leq t \leq T$ com média 0 e função covariância $\gamma(s,t)=\exp(-|t-s|)$ .

Existe uma maneira eficiente de fazer isso que não envolveria calcular a raiz quadrada de um $T \times T$ matriz de covariância? Como alternativa, alguém pode recomendar um Rpacote para fazer isso?

r probability simulation stochastic-processes gaussian-process user603
fonte

É um processo estacionário (parece próximo a uma versão simples de um processo de OU). É amostrada uniformemente?

cardeal

O pacote R mvtnormpossui rmvnorm(n, mean, sigma)onde sigmaestá a matriz de covariância; você teria que construir a matriz de covariância para o seu amostrados / selecionada

t

$t$ é mesmo, embora.

jbowman

@jb Presumivelmente

T

$T$ é enorme, caso contrário , o OP não pediria para evitar a decomposição da matriz (que está implícita rmvnorm).

whuber

@ cardinal Concordo, este é um processo Gaussiano de Ornstein-Uhlenbeck. (Seria ótimo se a palavra-chave "Ornstein Uhlenbeck" pode ser editado na questão e / ou título Ficaria esta questão, o mais tráfego que merece.)

redmoskito

Respostas:

Sim. Existe um algoritmo muito eficiente (tempo linear), e a intuição para isso vem diretamente do caso de amostra uniforme.

Suponhamos que temos uma partição de de modo a que . $[0,T]$ $0=t_0 < t_1 < t_2 < \cdots < t_n = T$

Caso de amostra uniforme

Neste caso, temos onde . Seja denota o valor do processo amostrado discretamente no momento . $t_i = i \Delta$ $\Delta = T/n$ $X_i := X(t_i)$ $t_i$

É fácil de ver que o formar um processo AR (1) com correlação . Portanto, podemos gerar um caminho de amostra para a partição da seguinte forma $X_i$ $\rho = \exp(-\Delta)$ $\{X_t\}$ Em que são iid e .

X_{i + 1} = ρ X_{i} + \sqrt{1 - ρ^{2}} Z_{i + 1},

$X_{i+1} = \rho X_i + \sqrt{1-\rho^2} Z_{i+1} \>,$

Z_{i}

$Z_i$

N (0, 1)

$\mathcal N(0,1)$

X_{0} = Z_{0}

$X_0 = Z_0$

Caso Geral

Podemos então imaginar que seria possível fazer isso para uma partição geral . Em particular, seja e . Temos que $\Delta_i = t_{i+1} - t_i$ $\rho_i = \exp(-\Delta_i)$ e portanto, podemos supor que

γ (t_{i}, t_{i + 1}) = ρ_{i},

$\gamma(t_i,t_{i+1}) = \rho_i \>,$

X_{i + 1} = ρ_{i} X_{i} + \sqrt{1 - ρ_{i}^{2}} Z_{i + 1} .

$X_{i+1} = \rho_i X_i + \sqrt{1-\rho_i^2} Z_{i+1} \>.$

$\mathbb E X_{i+1} X_i = \rho_i$

E X_{i} X_{i - ℓ} = E (E (X_{i} X_{i - ℓ} ∣ X_{i - 1})) = ρ_{i - 1} E X_{i - 1} X_{i - ℓ} = \dots = \prod_{k = 1}^{ℓ} ρ_{i - k},

$\newcommand{\e}{\mathbb E} \e X_i X_{i-\ell} = \e( \e(X_i X_{i-\ell} \mid X_{i-1} )) = \rho_{i-1} \mathbb E X_{i-1} X_{i-\ell} = \cdots = \prod_{k=1}^\ell \rho_{i-k} \>,$

\prod_{k = 1}^{ℓ} ρ_{i - k} = \exp (- \sum_{k = 1}^{ℓ} Δ_{i - k}) = \exp (t_{i - ℓ} - t_{i}) = γ (t_{i - ℓ}, t_{i}) .

$\prod_{k=1}^\ell \rho_{i-k} = \exp\Big(-\sum_{k=1}^\ell \Delta_{i-k}\Big) = \exp(t_{i-\ell} - t_i) = \gamma(t_{i-\ell},t_i) \>.$

$\mathcal N(0,1)$ $O(n)$ $n$

NB : Esta é uma técnica de amostragem exata , pois fornece uma versão amostrada do processo desejado com as distribuições de dimensões finitas exatamente corretas . Isso contrasta com os esquemas de discretização de Euler (e outros) para SDEs mais gerais, que sofrem um viés devido à aproximação via discretização.

cardeal
fonte

n

$n$

T

$T$

Δ

$\Delta$

0.1

$0.1$

@ Yves: Obrigado por seus comentários. Para ser claro, o procedimento que descrevi fornece uma realização exata do processo de tempo contínuo amostrado na partição correspondente; em particular, não há erro de discretização, como ocorre na aproximação típica do esquema de Euler a SDEs mais gerais. O Cholesky inverso, como mostra a construção na resposta, tem termos diferentes de zero apenas na diagonal e na diagonal inferior, portanto é um pouco mais simples que o tridiagonal.

cardeal

γ (t_{i}, t_{j}) = \exp (α | t_{i} - t_{j} |)

$\gamma(t_i, t_j) = \exp(\alpha \; |t_i - t_j|)$

Calcule a matriz de covariância decomposta por decomposição incompleta de Cholesky ou qualquer outra técnica de decomposição de matriz. A matriz decomposta deve ser TxM, onde M é apenas uma fração de T.

http://en.wikipedia.org/wiki/Incomplete_Cholesky_factorization

Steven
fonte

X_{i}

$X_i$

O algoritmo é um pouco longo para resumir. Você pode encontrar uma excelente descrição aqui: Kernel ICA , página 20. Observe que esse algoritmo está incompleto , o que significa que não calcula toda a decomposição, mas uma aproximação (portanto, é muito mais rápido). Publiquei o código desse algoritmo na caixa de ferramentas do KMBOX, você pode baixá-lo aqui: km_kernel_icd .

6303 Steven