O processo de Dirichlet e o processo gaussiano são frequentemente referidos como "distribuições sobre funções" ou "distribuições sobre distribuições". Nesse caso, posso falar significativamente sobre a densidade de uma função em um GP? Ou seja, o Processo Gaussiano ou o Dirichlet têm alguma noção de densidade de probabilidade?
Se não, como podemos usar a regra de Bayes para ir de anterior para posterior, se a noção de probabilidade anterior de uma função não está bem definida? Existem coisas como estimativas de MAP ou EAP no mundo não paramétrico bayesiano? Muito obrigado.
machine-learning
probability
bayesian
nonparametric
nonparametric-bayes
snickerdoodles777
fonte
fonte
Respostas:
Uma "densidade" ou "probabilidade" refere-se ao teorema de Radon-Nikodym na teoria da medida. Como observado por Xi'an, quando você considera um conjunto finito de chamadas observações parciais de um processo estocástico, a probabilidade corresponde à noção usual de derivada da medida de Lebesgue. Por exemplo, a probabilidade de um processo gaussiano observado em um conjunto finito conhecido de índices é a de um vetor aleatório gaussiano com sua média de covariância deduzida da do processo, que pode assumir formas parametrizadas.
No caso idealizado em que um número infinito de observações está disponível a partir de um processo estocástico, a medida de probabilidade está em um espaço infinito-dimensional, por exemplo, um espaço de funções contínuas se o processo estocástico tiver caminhos contínuos. Mas nada existe como uma medida de Lebesgue em um espaço de dimensão infinita; portanto, não há uma definição direta da probabilidade.
Para processos gaussianos, existem alguns casos em que podemos definir uma probabilidade usando a noção de equivalência de medidas gaussianas. Um exemplo importante é fornecido pelo teorema de Girsanov, amplamente usado em matemática financeira. Isso define a probabilidade de uma difusão Itô como a derivada da distribuição de probabilidade de um processo Wiener padrão definido para . Uma boa exposição matemática é encontrada no livro de Bernt Øksendal . O (próximo) livro de Särkkä e Solin fornece uma apresentação mais intuitiva que ajudará os praticantes. Está disponível uma exposição matemática brilhante sobre Análise e Probabilidade em Espaços Dimensionais Infinitos, de Nate Elderedge.Yt Bt t≥0
Observe que a probabilidade de um processo estocástico que seria completamente observado às vezes é chamada de probabilidade de preenchimento por estatísticos.
fonte