Quantificando a dependência de variáveis ​​aleatórias de Cauchy

7

Dadas duas variáveis ​​aleatórias Cauchyθ1Cauchy(x0(1),γ(1)) eθ2Cauchy(x0(2),γ(2)). Isso não é independente. A estrutura de dependência de variáveis ​​aleatórias pode frequentemente ser quantificada com sua covariância ou coeficiente de correlação. No entanto, essas variáveis ​​aleatórias de Cauchy não têm momentos. Assim, covariância e correlação não existem.

Existem outras maneiras de representar a dependência das variáveis ​​aleatórias? É possível estimar aqueles com Monte Carlo?

Jonas
fonte
3
Pode considerar métricas de dependência gerais, tais como informação mútua: en.wikipedia.org/wiki/Mutual_information
John Madden

Respostas:

9

Só porque eles não têm covariância, não significa que os princípios básicos xtΣ1xestrutura geralmente associada a covariâncias não pode ser usada. De fato, o multivariado (k-dimensional) Cauchy pode ser escrito como:

f(x;μ,Σ,k)=Γ(1+k2)Γ(12)πk2|Σ|12[1+(xμ)TΣ1(xμ)]1+k2

que tirei da página da Wikipedia . Este é apenas um aluno multivariado.t distribuição com um grau de liberdade.

Para fins de desenvolvimento da intuição, eu usaria apenas os elementos fora da diagonal normalizados de Σcomo se fossem correlações, mesmo que não sejam. Eles refletem a força da relação linear entre as variáveis ​​de maneira muito semelhante à de uma correlação;Σtem que ser simétrico definido positivo; E seΣ é diagonal, as variáveis ​​são independentes etc.

A estimativa da máxima verossimilhança dos parâmetros pode ser feita usando o algoritmo EM, que neste caso é facilmente implementado. O log da função de probabilidade é:

L(μ,Σ)=n2|Σ|k+12i=1nlog(1+si)

Onde si=(xiμ)TΣ1(xiμ). A diferenciação leva às seguintes expressões simples:

μ=wixi/wi

Σ=1nwi(xiμ)(xiμ)T

wi=(1+k)/(1+si)

O algoritmo EM apenas itera sobre essas três expressões, substituindo as estimativas mais recentes de todos os parâmetros em cada etapa.

Para mais informações, consulte Métodos de estimativa para a distribuição multivariada , Nadarajah e Kotz, 2008.

jbowman
fonte
Esse é um plano muito bom e uma resposta muito detalhada. Mais uma pergunta pode ser: é possível escrever qualquer distribuição conjunta de Cauchy como você fez? Para os gaussianos, uma resposta semelhante é sim. Mas também para a correlação e dependência gaussianas são equivalentes. Esse também é o caso de Cauchy?
Jonas
Sim, esta é a maneira padrão de escrever uma densidade Cauchy multivariada. Para o MV Cauchy, pseudo-correlação e dependência também são equivalentes; todas as suas intuições continuam. σij=σiσj implica xi sempre =xj, Etc.
jbowman
6

Enquanto cov(X,Y) não existe, para um par de variáveis ​​com marginais de Cauchy, cov(Φ(X),Φ(Y)) existe para, por exemplo, funções limitadas Φ(). Na verdade, a noção de matriz de covariância não é adequada para descrever distribuições conjuntas em todos os cenários, pois não é invariável em transformações.

Emprestando-se do conceito de cópula (que também pode ajudar na definição de uma distribuição conjunta¹ para(X,Y)), pode-se transformar X e Y em uniforme (0,1) variáveis, usando seus cdfs marginais, ΦX(X)U(0,1) e ΦY(Y)U(0,1)e observe a covariância ou correlação das variáveis ​​resultantes.


Por exemplo, quando X e Y são Cauchys padrão,

ZX=Φ1({argtan(X)/π+1}/2)
é distribuído como um Normal padrão, e a distribuição conjunta de (ZX,ZY) pode ser escolhido para ser uma articulação normal
(ZX,ZY)N2(02,Σ)
Esta é uma cópula gaussiana .

Xi'an
fonte
Obrigado pela sua resposta. Não tenho muita certeza, se este é o caminho certo a seguir. Os valores amostrados com a distribuição de Cauchy serão potencialmente muito grandes. Ao transformá-los dessa maneira em um gaussiano, provavelmente acabamos colocando todos os valores em um conjunto muito pequeno na cauda do gaussiano. Nesse caso, ainda podemos estimar a covariância, mas acho que a correlação seria próximo de 1.
Jonas
Meu argumento é que a correlação é uma medida linear de dependência, dependendo da parametrerização da distribuição. E uma vez que as duas variáveis ​​de Cauchy são transformadas em gaussianas, sua correlação pode ser qualquer coisa entre -1 e 1. Verifique a copulapalavra-chave na Wikipedia.
Xian