Motores de inferência variacional

8

Depois de fazer algumas pesquisas sobre o tópico, notei um déficit surpreendente de pacotes de inferência e bibliotecas que dependem de métodos de passagem de mensagens ou otimização para Python e R.

Que eu saiba, esses métodos são extremamente úteis. Por exemplo, apenas para uma propagação de crenças da Bayes Network (dirigida, acíclica) deve ser capaz de fornecer respostas exatas. No entanto, a maioria dos softwares de inferência disponíveis on-line (por exemplo, STAN, BUGS, PyMC) depende dos métodos do MCMC.

No caso de Python, até onde sei, nem o PyMC, nem o scikit-learn nem o model stats incluem algoritmos de inferência variados, como propagação de crenças, métodos de transmissão de mensagens ou qualquer uma de suas variantes.

Por que é que? Esses métodos são menos utilizados na prática porque são vistos não tão poderosos ou genéricos quanto seus colegas do MCMC? ou É simplesmente uma questão de falta de mão de obra e tempo?

Amelio Vazquez-Reina
fonte
Por que os votos próximos?
Amelio Vazquez-Reina
Provavelmente porque sua pergunta parece ser sobre software, em vez de estatística ou aprendizado de máquina. Se você editar para deixar bem claro sobre quais tópicos do CV você está fazendo uma pergunta (por exemplo, por que não é apenas uma questão de software), é provável que a votação mais próxima seja bem-sucedida (e mesmo que seja bem-sucedida, se você editar para esclarecer, é mais provável que seja revertida por uma votação de reabertura). Portanto, se sua pergunta claramente parece ser uma "rede de crenças" ou uma questão de "inferência variacional" (mesmo que também envolva software), provavelmente deve estar tudo bem.
Glen_b -Reinstala Monica
Obrigado @Glen_b. Isso faz sentido, eu entendo. Eu atualizei a pergunta. Espero que isso coloque mais no escopo do site.
Amelio Vazquez-Reina
1
Isso pode ser suficiente - se eu ainda não tivesse votado para mantê-lo aberto, teria pouca preocupação em fazê-lo agora. Por outro lado, algumas pessoas são muito mais rigorosas em relação a onde elas traçam a linha entre 'esta é uma questão de estatísticas / ML' e 'essa é uma questão de software' do que eu. Você não deve votar pessoalmente de maneira alguma, mesmo que acabe fechado ou movido para outro site da SE; isto é em parte como o site deve funcionar.
Glen_b -Reinstala Monica
Isso está no tópico, espero que haja um comprador em algum momento.
conjectures

Respostas:

2

Você já olhou para Edward ? A API de inferência suporta, entre outras coisas, inferência variacional:

  • Inferência variacional de caixa preta
  • Inferência variacional estocástica
  • Auto-codificadores variacionais
  • Divergência inclusiva de KL: KL(p∥q)
ruoho ruotsi
fonte
Obrigado! Sim, eu testei recentemente. Eu acho que é muito novo e não estava por perto quando perguntei ao Q. É bom tê-lo no tópico!
Amelio Vazquez-Reina
2
Como você achou trabalhar com Edward? Como no que você achou? satisfez seus requisitos?
Ruoho Ruotsi