Os processos estocásticos, como o processo gaussiano / processo de Dirichlet, têm densidades? Caso contrário, como a regra de Bayes pode ser aplicada a eles?

10

O processo de Dirichlet e o processo gaussiano são frequentemente referidos como "distribuições sobre funções" ou "distribuições sobre distribuições". Nesse caso, posso falar significativamente sobre a densidade de uma função em um GP? Ou seja, o Processo Gaussiano ou o Dirichlet têm alguma noção de densidade de probabilidade?

Se não, como podemos usar a regra de Bayes para ir de anterior para posterior, se a noção de probabilidade anterior de uma função não está bem definida? Existem coisas como estimativas de MAP ou EAP no mundo não paramétrico bayesiano? Muito obrigado.

snickerdoodles777
fonte
11
Dado que (por exemplo) a realização do processo gaussiano é observada apenas em uma coleção finita de pontos, o produto correspondente das medidas de Lebesgue é a medida dominante. O que significa que, para a observação da função aleatória em uma coleção finita de pontos, existe uma densidade. f
Xian
A resposta sobre densidades é sim, e a formulação matemática apropriada é chamada de derivado de Radon-Nikodym.
whuber

Respostas:

4

Uma "densidade" ou "probabilidade" refere-se ao teorema de Radon-Nikodym na teoria da medida. Como observado por Xi'an, quando você considera um conjunto finito de chamadas observações parciais de um processo estocástico, a probabilidade corresponde à noção usual de derivada da medida de Lebesgue. Por exemplo, a probabilidade de um processo gaussiano observado em um conjunto finito conhecido de índices é a de um vetor aleatório gaussiano com sua média de covariância deduzida da do processo, que pode assumir formas parametrizadas.

No caso idealizado em que um número infinito de observações está disponível a partir de um processo estocástico, a medida de probabilidade está em um espaço infinito-dimensional, por exemplo, um espaço de funções contínuas se o processo estocástico tiver caminhos contínuos. Mas nada existe como uma medida de Lebesgue em um espaço de dimensão infinita; portanto, não há uma definição direta da probabilidade.

Para processos gaussianos, existem alguns casos em que podemos definir uma probabilidade usando a noção de equivalência de medidas gaussianas. Um exemplo importante é fornecido pelo teorema de Girsanov, amplamente usado em matemática financeira. Isso define a probabilidade de uma difusão Itô como a derivada da distribuição de probabilidade de um processo Wiener padrão definido para . Uma boa exposição matemática é encontrada no livro de Bernt Øksendal . O (próximo) livro de Särkkä e Solin fornece uma apresentação mais intuitiva que ajudará os praticantes. Está disponível uma exposição matemática brilhante sobre Análise e Probabilidade em Espaços Dimensionais Infinitos, de Nate Elderedge.YtBtt0

Observe que a probabilidade de um processo estocástico que seria completamente observado às vezes é chamada de probabilidade de preenchimento por estatísticos.

Yves
fonte
Explicação muito útil! Acho que parte da minha confusão com relação a tópicos como esses na parametria bayesiana não se deve à minha falta de familiaridade com a teoria das medidas e a análise funcional, por isso não deixe de conferir suas referências.
snickerdoodles777