Se eu gerar uma matriz simétrica aleatória, qual é a chance de ela ser definitiva positiva?

32

Eu tive uma pergunta estranha quando estava experimentando algumas otimizações convexas. A questão é:

Suponha que eu aleatoriamente (digamos distribuição normal padrão) gere uma matriz simétrica (por exemplo, eu gere matriz triangular superior e preencha a metade inferior para garantir que seja simétrica), qual é a chance de ser uma definição definitiva positiva matriz? Existe alguma maneira de calcular a probabilidade?N×N

Haitao Du
fonte
1
Tente simulação ...
kjetil b halvorsen
1
@kjetilbhalvorsen obrigado, mas estou me perguntando qual é a chance de todos os autovalores serem maiores que 0. ou podemos, possivelmente, fazê-lo analiticamente.
Haitao Du
6
A resposta depende de como você gera a matriz. Por exemplo, uma maneira gera autovalores reais de acordo com alguma distribuição e depois conjuga essa matriz diagonal por uma matriz ortogonal aleatória. O resultado será positivo definitivo se e somente se todos esses autovalores forem positivos. Se você gerasse valores próprios independentemente, de acordo com uma distribuição simétrica em torno de zero , essa chance obviamente é no máximo 2 - n . Para gerar uma matriz PD, escolha bem seus valores próprios! (Para um trabalho rápido, eu criar tais matrizes como covariâncias de dados normal multivariada.)n2n
whuber
11
Não é uma resposta para a pergunta, mas observe que se primeiro simular uma matriz com cada entrada iid normal e as mesmas dimensões de N , então N = L L T é simétrica e positiva definida com probabilidade 1.LNN=LLT
Cliff AB

Respostas:

41

Se as matrizes são desenhados a partir das entradas iid padrão normal, a probabilidade de ser definida positiva é de aproximadamente pN3N2/4 , por exemplo, se N=5 , a possibilidade é 1/1000, e desce bastante rápido depois disso. Você pode encontrar uma discussão extensa sobre esta questão aqui .

Você pode, de alguma maneira, intuir essa resposta aceitando que a distribuição de autovalor da sua matriz será aproximadamente semicírculo de Wigner , que é simétrico em relação a zero. Se os valores próprios estavam todos independentes, você teria um (1/2)N chance de positivo-definiteness por essa lógica. Na realidade, você obtém o comportamento de N2 , devido a correlações entre valores próprios e as leis que regem grandes desvios de valores próprios, especificamente o menor e o maior. Especificamente, autovalores aleatórios são muito parecidos com partículas carregadas e não gostam de estar próximos um do outro, portanto, eles se repelem (estranhamente, com o mesmo campo potencial das partículas carregadas, 1/r , em quer é a distância entre valores próprios adjacentes). Pedir a todos que sejam positivos seria, portanto, um pedido muito alto.

Além disso, por causa das leis de universalidade em teoria matriz aleatória, suspeito fortemente a probabilidade de cima pN , provavelmente, ser o mesmo para essencialmente qualquer matriz aleatória "razoável", com entradas iid que têm média e desvio padrão finito.

Alex R.
fonte
5
É bom saber que é muito baixo. Portanto, não usarei amostragem de rejeição para criar matriz SPD no futuro.
Haitao Du
5
@ hxd1011: se você estiver tentando amostrar matrizes SPD, sugiro o método descrito nos comentários acima. Além disso, pode ser útil ler sobre as decomposições de Cholesky
Cliff AB
AA2×2