Achado de raiz para função estocástica

Suponha que temos uma função que só podemos observar através de algum ruído. Não podemos calcular diretamente, apenas onde é algum ruído aleatório. (Na prática: calculo usando algum método de Monte Carlo.) $f(x)$ $f(x)$ $f(x) + \eta$ $\eta$ $f(x)$

Quais métodos estão disponíveis para encontrar raízes de , ou seja, calcular para que ? $f$ $x$ $f(x) = 0$

Estou procurando métodos que minimizem o número de avaliações necessárias para , pois isso é computacionalmente caro. $f(x)+\eta$

Estou particularmente interessado em métodos que generalizam para múltiplas dimensões (ou seja, resolva ). $f(x,y) = 0, g(x,y) = 0$

Também estou interessado em métodos que podem usar algumas informações sobre a variação de , pois uma estimativa disso pode estar disponível ao calcular usando o MCMC. $\eta$ $f(x)$

approximation Szabolcs
fonte

Não sei ao certo quais são as tags corretas para esta pergunta. Ajude a re-etiquetar.

Szabolcs

Para ser justo, achei a aproximação estocástica , mas muito pouca informação prática com exemplos ou discussão prática de quando funciona bem e quando não funciona. A maioria das informações está em trabalhos acadêmicos que parecem exigir bastante trabalho para se converter em uma aplicação prática. Outra coisa que encontrei foi a palavra - chave estimativa sem verossimilhança, que resolve um problema muito semelhante e há mais informações práticas disponíveis on-line. Mais alguma coisa? Referências são bem-vindas!

Szabolcs

problema interessante. Suponho que todos os métodos de gradiente ir para fora da janela

Aksakal

Além disso, no seu caso, o problema é mais difícil: você pode controlar através do MC

v a r [η]

$var[\eta]$

Aksakal

Acrescentarei 50 adicionais à recompensa de Glen_b para obter uma boa resposta.

Szabolcs

Respostas:

Você pode achar úteis as seguintes referências:

Pasupathy, R. e Kim, S. (2011) O problema estocástico de busca de raízes: visão geral, soluções e questões em aberto. Transações ACM em Modelagem e Simulação Computacional, 21 (3). [ DOI ] [ pré-impressão ]

Waeber, R. (2013) Pesquisa de bissecção probabilística para localização estocástica de raízes. Dissertação de doutorado, Universidade de Cornell, Ithaca. [ pdf ]

QuantIbex
fonte

(+1) Ter uma pergunta respondida com uma citação de dissertação de 2013 é bastante impressionante.

Sycorax diz Reinstate Monica

Essa é google-fu é forte

bdeonovic

O primeiro artigo que você cita é útil, mas deve-se notar que ainda há bastante trabalho necessário para colocar os métodos em prática.

Szabolcs

Seria muito bom se alguém que seguisse os métodos pudesse fazer uma estimativa de quanto trabalho é necessário para ir do artigo para a implementação mais simples. Deu uma olhada no primeiro trabalho e parece bastante denso.

Ramon Martinez

Eu acho que para estes tipos de problemas que você pode usar descida gradiente estocástico, ver, por exemplo finzi.psych.upenn.edu/R/library/sgd/html/sgd.html

Tom Wenseleers