sobre independência condicional e sua representação gráfica

10

Ao estudar a seleção de covariância, li uma vez o exemplo a seguir. Com relação ao seguinte modelo:

insira a descrição da imagem aqui

Sua matriz de covariância e matriz de covariância inversa são dadas a seguir,

insira a descrição da imagem aqui

Eu não entendo por que a independência dos e é decidido pelo covariância inversa aqui?xy

Qual é a lógica matemática subjacente a esse relacionamento?

Além disso, o gráfico esquerdo na figura a seguir é reivindicado para capturar a relação de independência entre e ; porque?xy

insira a descrição da imagem aqui

bit-question
fonte

Respostas:

11

A matriz de covariância inversa pode ser usada para calcular variações e covariâncias condicionais para distribuições gaussianas multivariadas. Uma pergunta anterior fornece algumas referências

Por exemplo, para encontrar a covariância condicional de e com o valor , você pegaria o canto inferior direito da matriz de covariância inversaYZX=x

(1113) and re-invert it to (32121212)

o que de fato fornece a matriz de covariância de e condicionada ao valor de .YZX=x

Portanto, da mesma forma, para encontrar a matriz de covariância condicional de e dado o valor de , você levaria o canto superior esquerdo da matriz de covariância inversaXYZ=z

(1001) and re-invert it to (1001)

dizendo que a covariância condicional entre e dada é (e que cada uma de suas variações condicionais é ). XYZ=z01

Para concluir que essa covariância condicional zero implica independência condicional, você também deve usar o fato de ser uma gaussiana multivariada (como em geral a covariância zero não implica necessariamente independência). Você sabe disso da construção.

Pode-se argumentar que você também conhece a independência condicional da construção, uma vez que é informado que e são iid, portanto, condicionados a um valor específico para , e também são iid . Se você sabe , não há nenhuma informação adicional do que ajuda você a dizer nada sobre possíveis valores de .ϵ1ϵ2Z=zX=z+ϵ1Y=z+ϵ2Z=zXY

Henry
fonte
0

Este é um complemento para a resposta correta e aceita. Em particular, a pergunta original contém uma pergunta de acompanhamento sobre a afirmação que o livro faz.

Além disso, o gráfico à esquerda na figura a seguir é reivindicado para capturar a relação de independência entre e , por que? XYinsira a descrição da imagem aqui

É isso que é abordado nesta resposta e é a única coisa abordada nesta resposta.

Para garantir que estamos na mesma página, a seguir, uso esta definição de gráfico de independência condicional (não direcionada) que corresponde (pelo menos aproximadamente) aos campos aleatórios de Markov:

Definição: O gráfico independência condicional de é o gráfico não dirigida onde e é não no conjunto de arestas se e somente se . (Onde denota o vetor de todas as variáveis ​​aleatórias, exceto e .)XG=(K,E)K={1,2,,k}(i,j)XiXj|XK{i,j}XK{i,j}XiXj

Da p. 60 de Whittaker, Modelos Gráficos em Estatística Multivariada Matemática Aplicada (1990).

Aqui, usando o argumento dado por Henry na resposta correta e aceita, podemos estabelecer que e são condicionalmente independentes, dado , na notação .XYZXY |Z

Como as únicas três variáveis ​​aleatórias são e , isso significa que e são condicionalmente independentes quando recebem todas as outras variáveis ​​aleatórias restantes (neste caso, apenas ).X,YZXYZ

Utilizando a definição do gráfico de independência condicional dada acima, isto significa que todas as arestas do gráfico deve ser incluídas excepto para a borda entre e . De fato, é exatamente isso que é mostrado no gráfico correto dessa imagem.XY

Em relação ao gráfico esquerdo, não é claro sem ter mais contexto, mas acho que a idéia é apenas mostrar como seria o gráfico de independência condicional se não tivéssemos zeros nessas entradas da matriz de covariância inversa.

Em particular, usando a definição acima, vemos que podemos começar com o gráfico completo nos nós , que é o gráfico esquerdo nessa imagem, e derivar o gráfico de independência condicional desse primeiro gráfico, removendo todos os arestas correspondentes a variáveis ​​aleatórias condicionalmente independentes. A figura compara os dois gráficos explicitamente ("versus"), o que para mim sugere uma comparação entre o gráfico completo com o qual podemos começar e o gráfico de independência condicional que termina com se / quando eles aplicam a definição de gráfico de independência condicional, conforme indicado acima.X,Y,Z

Chill2Macht
fonte