Como testar se uma matriz de covariância cruzada é diferente de zero?

Os antecedentes do meu estudo :

Em uma amostragem de Gibbs em que amostramos (a variável de interesses) e de e respectivamente, onde e são vetores aleatórios em dimensionais. Sabemos que o processo geralmente é dividido em duas etapas: $X$ $Y$ $P(X|Y)$ $P(Y|X)$ $X$ $Y$ $k$

Período de gravação, onde descartamos todas as amostras. Denote as amostras como e . $X_1\sim X_t$ $Y_1\sim Y_t$
Período "Pós-gravação", em que calculamos a média das amostras como resultado final desejado. $\bar{X} = \frac{1}{k}\sum_{i=1}^k X_{t+i}$

No entanto, as amostras na sequência "after-burn-in" não são distribuídas independentemente. Portanto, se eu quiser inspecionar a variação do resultado final, ele se tornará $X_{t+1}\sim X_{t+k}$

Var [\bar{X}] = Var [\sum_{i = 1}^{k} X_{t + i}] = \frac{1}{k^{2}} (\sum_{i = 1}^{k} Var [X_{t + i}] + \sum_{i = 1}^{k - 1} \sum_{j = i + 1}^{k} Cov [X_{t + i}, X_{t + j}])

$\operatorname{Var}[\bar{X}] = \operatorname{Var}\left[\sum_{i=1}^k X_{t+i}\right] = \frac{1}{k^2}\left(\sum_{i=1}^k\operatorname{Var}[X_{t+i}] + \sum_{i=1}^{k-1} \sum_{j=i+1}^k \operatorname{Cov}[X_{t+i},X_{t+j}]\right)$

Aqui, o termo é uma matriz de covariância cruzada se aplica a qualquer com . $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $k\times k$ $(i,j)$ $i<j$

Por exemplo, eu tenho

X_{t + 1} = (1, 2, 1)^{'} X_{t + 2} = (1, 0, 2)^{'} X_{t + 3} = (1, 0, 0)^{'} X_{t + 4} = (5, 0, - 1)^{'}

$X_{t+1} = (1,2,1)'\\ X_{t+2} = (1,0,2)'\\ X_{t+3} = (1,0,0)'\\ X_{t+4} = (5,0,-1)'$

então eu poderia estimar a matriz de covariância com $\operatorname{Cov}[X_{t+i}, X_{t+i+1}]$

\frac{1}{3} \sum_{i = 1}^{3} (X_{t + i} - μ_{t + i}) (X_{t + i + 1} - μ_{t + i + 1})^{'}

$\frac{1}{3}\sum_{i=1}^3 (X_{t+i}-\mu_{t+i})(X_{t+i+1}-\mu_{t+i+1})'$

Agora, estou interessado em saber se a estimativa resultante é significativamente diferente de zero, para que eu precise incluí-la na minha estimativa de variação de . $\operatorname{Var}[\bar{X}]$

Então, aqui estão minhas perguntas :

Nós amostra a partir de . Como está mudando, acho que e não são da mesma distribuição, portanto, não é o mesmo que . Esta afirmação está correta? $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$ $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$
Suponha que eu tenha dados suficientes para estimar (amostras vizinhas na sequência), existe alguma maneira de testar se a matriz de covariância é significativamente matriz diferente de zero? Em termos gerais, estou interessado em um indicador que me leve a algumas matrizes de covariância cruzada significativas que devem ser incluídas na minha estimativa final de variância. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

hypothesis-testing covariance covariance-matrix gibbs TomHall
fonte

Na verdade, agora isso parece uma boa pergunta; Eu acho que outras pessoas estarão em melhor posição para dar boas respostas do que eu, então eu gostaria de promover isso (coloque uma recompensa) quando ele se tornar elegível em breve. [Respostas breves: 1. Essas duas covariâncias são diferentes. 2. Você não precisa testar se as variáveis consecutivas estão correlacionadas (em todos os casos, exceto os mais triviais; o algoritmo funciona gerando variáveis dependentes) - mais interessante para medir a correlação do que testá-la;] ... se boas respostas não aparecem Eu vou expandir esses pequenos comentários em uma resposta completa

Glen_b -Reinstar Monica

Parece que sua pergunta é muito mais ampla que a pergunta do título. Abordando especificamente a questão do título, há o teste de esfericidade de Bartlett que permite testar se uma matriz de covariância de amostra é diagonal. Você provavelmente precisaria adaptá-lo ao seu cenário de covariância cruzada (sua "matriz de covariância" na verdade não é realmente uma matriz de covariância, é uma matriz de covariância cruzada; é um bloco fora da diagonal da matriz de covariância completa de X_t e X_ { t + 1} juntos). CC para @Glen_b.

Ameba diz Reinstate Monica

Eu acrescentaria que as covariâncias tendem a decair mais ou menos geometricamente (cada vez mais à medida que você se afasta); valores distantes no tempo tendem a ter uma correlação muito baixa ( não zero, mas em grande parte ignorável), enquanto aqueles próximos uns dos outros podem às vezes ser bastante dependentes.

Glen_b -Reinstala Monica

@ Tom 1. No entanto, com séries estacionárias, em defasagens muito distantes (4 não está distante!), O que acontece com o ACF? 2. Você sabe algo sobre como os valores gerados do MCMC funcionam que você não pode dizer sobre séries temporais arbitrárias ... elas são markovianas . Você notará que meus comentários anteriores não afirmam que os atrasos mais próximos devem mostrar decaimento geométrico (por exemplo, eu não disse que era impossível ver uma correlação mais alta no atraso 4 do que 3). Você ainda terá (se certas condições persistirem) tendência à deterioração geométrica no ACF à medida que se afastam.

$\quad$

Glen_b -Reinstala Monica

Se o seu período de amostragem é tão curto que você não tem estimativas altamente precisas da covariância cruzada, pode ser necessário apenas lidar com o fato de que suas estimativas dos termos da covariância cruzada apresentam um erro padrão amplo. Dado meu entendimento atual, vou reafirmar ainda mais fortemente minha objeção a testar as correlações. O teste de hipótese para correlações zero vs diferentes de zero não aborda seu problema aqui.

Glen_b -Reinstala Monica

Nós amostra a partir de . Como está mudando, acho que e não são da mesma distribuição [...] $X_{t+i}$ $P(X_{t+i}|Y_{t+i})$ $Y_{t+i}$ $X_{t+i}$ $X_{t+i+1}$

Você está confundindo distribuições condicionais e incondicionais aqui, veja também minha próxima observação. Condicional em e , . Mas toda a ponto de construir seu sampler Gibbs é a amostra a partir das distribuições estacionárias de e . Em termos gerais, se você administra sua cadeia por tempo suficiente e, para que siga a distribuição estacionária, você pode dizer o que significa que a distribuição incondicional de também é invariável. Em outras palavras, como $Y_{t+i} = y_1$ $Y_{t+i+1} = y_2$ $P(X_{t+i}|Y_{t+i} = y_1) \neq P(X_{t+i+1}|Y_{t+i+1} = y_2)$ $X$ $Y$ $\{Y_t\}$

\begin{aligned} P (X_{t}) = \int_{Y} P (X_{t} | Y_{t}) d P (Y_{t}), \end{aligned}

$\begin{align} P(X_t) = \int_{\mathcal{Y}}P(X_t|Y_t)dP(Y_t), \end{align}$

X_{t}

$X_t$

t \to \infty

$t \to \infty$ e convergimos para as distribuições estacionárias, , uma vez que e serão assintoticamente retirados da (a mesma!) distribuição estacionária . Por outro lado, e como antes, uma vez que condicionemos e , isso não será mais válido, independentemente do tamanho .

P (X_{t + i} | Y_{t + i}) = P (X_{t + i + 1} | Y_{t + i + 1})

$P(X_{t+i}|Y_{t+i}) = P(X_{t+i+1}|Y_{t+i+1})$

Y_{t + i}

$Y_{t+i}$

Y_{t + i + 1}

$Y_{t+i+1}$

P (Y_{t})

$P(Y_t)$

Y_{t + i} = y_{1}

$Y_{t+i} = y_1$

Y_{t + i + 1} = y_{2}

$Y_{t+i+1} = y_2$

t

$t$

[...] nome não é o mesmo que . Esta afirmação está correta? $\operatorname{Cov}[X_{t+i},X_{t+j}]$ $\operatorname{Cov}[X_{t+i},X_{t+i}]$

Sim, isso está correto - mesmo que , ou seja, e tenham a mesma distribuição estacionária. Eu sei que isso pode ser confuso, mas tenha paciência comigo. Defina com . Por substituição iterada, pode-se mostrar que , e como (infinitas) somas de normais ainda são normais, ele sustenta que e para que . Claramente, e $X_{t+1} \sim X_{t}$ $X_t$ $X_{t+1}$ $Y_t = 0.8\cdot Y_{t-1} + \varepsilon_t$ $\varepsilon_t \overset{iid}{\sim} N(0,1)$ $Y_t = \sum_{i=0}^t0.8^i \varepsilon_{t-i}$ $\text{Var}(Y_t) = \sum_{i=0}^t0.8^{2i} = \dfrac{1}{1-0.8^2}$ $Y_t \overset{iid}{\sim} N(0, \dfrac{1}{1-0.8^2})$ $Y_t$ $Y_{t+1}$ ainda estarão correlacionados, mas também serão da mesma distribuição ( ). Uma situação semelhante se aplica ao seu . $Y_{t+1} \sim Y_{t}$ $X_t$

Suponha que eu tenha dados suficientes para estimar (amostras vizinhas na sequência), existe alguma maneira de testar se a matriz de covariância é significativamente matriz diferente de zero? Em termos gerais, estou interessado em um indicador que me leve a algumas matrizes de covariância cruzada significativas que devem ser incluídas na minha estimativa final de variância. $\operatorname{Cov}[X_{t+i},X_{t+i+1}]$

Bem, se você tiver infinitas observações, todas elas serão significativas eventualmente. Claramente, você não pode fazer isso na prática, mas existem maneiras de "cortar" a expansão após alguns termos, veja a excelente resposta aceita aqui. Basicamente, você define um kernel que decai para e atribui pesos às primeiras matrizes de covariância que você pode calcular. Se você quiser escolher de uma maneira em princípios, terá que se aprofundar um pouco na literatura, mas o post que eu vinculei fornece boas referências para fazer exatamente isso. $k(\cdot)$ $0$ $l_T$ $l_T$

Jeremias K
fonte

Como testar se uma matriz de covariância cruzada é diferente de zero?

Respostas: