Quais são os parâmetros de um posterior Wishart-Wishart?

12

Quando inferir a precisão matriz de uma distribuição normal usado para gerar vectores de D-dimensionais \ begin {align} \ mathbf {x_i} & \ sim \ mathcal {N} (\ boldsymbol {\ mu, \ Lambda ^ {- 1}}) \\ \ end {align} geralmente colocamos um Wishart antes de \ boldsymbol {\ Lambda}, pois a distribuição Wishart é o conjugado anterior para a precissão de uma distribuição normal multivariada com média conhecida e variância desconhecida: \ begin {align} \ mathbf {\ Lambda} e \ sim \ mathcal {W} (\ upsilon, \ boldsymbol {\ Lambda_0}) \\ \ end {align } onde \ upsilon são os graus de liberdade e \ boldsymbol {\ Lambda_0} oΛx 1 , . . , x N x iNx1,..,xN

xiN(μ,Λ1)
Λ
ΛW(υ,Λ0)
υΛ0matriz de escala . Para adicionar robustez e flexibilidade ao modelo, colocamos uma hiper-prioridade sobre os parâmetros do Wishart. Por exemplo, Görür e Rasmussen sugerem:
Λ0W(D,1DΛx)1υD+1G(1,1D)
onde G é a distribuição gama.

Questão:

para provar a parte posterior de p ( Λ 0 | X , Λ , υ , D , Λ x ) W ( Λ | υ , Λ 0 ) W ( Λ 0 | D , 1Λ0

p(Λ0|X,Λ,υ,D,Λx)W(Λ|υ,Λ0)W(Λ0|D,1DΛx)

qual é a família e os parâmetros deste posterior?

PS:

Eliminando todos os fatores que não dependem de e identificando os parâmetros com os parâmetros de um Wihsart, recebo um Wishart com os parâmetros: υ 'Λ0

υ=υ+DΛ=Λ+Λx

o que parece muito bom, mas não estou confiante, pois não encontro nenhum exemplo nem nos livros nem na internet.

Errata :

Görur e Rasmussen sugerem essas hiperpriorias sobre os parâmetros de Wishart, mas esta equação:

ΛW(υ,Λ0)

deve ser:

ΛW(υ,Λ01)

resolvendo, portanto, a falta de conjugação. Se quisermos manter o , devemos usar o Wishart inverso como uma prévia (consulte a resposta de @ Xi'an)Λ0

Alberto
fonte

Respostas:

5

O produto das duas densidades em leva a

p(Λ0|X,Λ,υ,D,Λx)W(Λ|υ,Λ0)W(Λ0|D,1DΛx)
p(Λ0|X,Λ,υ,D,Λx)|Λ0|υ/2exp{tr(Λ01Λ)/2}×|Λ0|(Dp1)/2exp{Dtr(Λx1Λ0)/2}|Λ0|(Dυp1)/2exp{tr(Λ01Λ+DΛx1Λ0)/2},

que não parece ser uma densidade padrão. Para manter o tipo de conjugação, o hierárquico anterior correto em deve ser algo como Λ0
Λ0IW(Λ0|D,1DΛx).
Xi'an
fonte
1
Obrigado pela dica @ Xi'an!, Na verdade, o parâmetro na probabilidade deve ser (culpa minha, consulte editar). Acabei de postar uma resposta usando isso e mantendo o Wishart * Wishart. Λ0 0-1
Alberto19
6

Ok, graças à resposta @ Xi'an, eu poderia fazer toda a derivação. Escreverei para um caso geral: onde o é a chave para a conjugação. Se quisermos usar , deve ser:

W(W|você,S-1)×W(S|você0 0,S0 0)
S-1S
W(W|você,S)×EuW(S|você0 0,S0 0)

Estou fazendo o primeiro caso (corrija-me se estiver errado):

W(W|υ,S1)×W(S|υ0,S0)|S|υ/2exp{12tr(SW)}×|S|υ0D12exp{12tr(S01S)}|S|υ+υ0D12exp{12tr((W+S01)S)}

onde usamos o fato de que . Por inspeção, observamos que esta é uma distribuição Wishart: tr(SW)=tr(WS)

p(S|)=W(υ+υ0,(W+S01)1)

Extensão para drawsNW1...WN :

Para o caso em que temos matrizes de precisão, a probabilidade se torna um produto de verossimilhanças e obtemos:NN

p(S|)=W(Nυ+υ0,(i=1NWi+S01)1)
Alberto
fonte