Recentemente, revi alguns artigos antigos de Nancy Reid, Barndorff-Nielsen, Richard Cox e, sim, um pouco de Ronald Fisher sobre o conceito de "inferência condicional" no paradigma freqüentista, o que parece significar que as inferências são baseadas considerando apenas o "subconjunto relevante" do...
Ao executar a regressão, se seguirmos a definição de: Qual é a diferença entre uma probabilidade parcial, uma probabilidade de perfil e uma probabilidade marginal? que, máxima verossimilhança encontre β e θ que maximize L (β, θ | dados). Enquanto, Probabilidade marginal Nós integramos θ da...
Existe uma regra prática ou mesmo alguma maneira de dizer qual o tamanho de uma amostra para estimar um modelo com um determinado número de parâmetros? Então, por exemplo, se eu quiser estimar uma regressão de mínimos quadrados com 5 parâmetros, qual deve ser o tamanho da amostra? Importa qual...
Fundo: Estou tentando seguir a revisão de Princeton sobre a estimativa de MLE para GLM . I compreender os conceitos básicos de estimativa MLE: likelihood, score, observado e esperado Fisher informationea Fisher scoringtécnica. E eu sei como justificar a regressão linear simples com a estimativa...
Existem alguns métodos para estimativa de parâmetros por aí. MLE, UMVUE, MoM, teoria da decisão e outros parecem ter um caso bastante lógico do motivo pelo qual são úteis para a estimativa de parâmetros. Existe um método melhor do que os outros, ou é apenas uma questão de como definimos qual é o...
Eu entendo que, dado um conjunto de observações independentes o Estimador de Máxima Verossimilhança (ou, equivalentemente, o MAP com flat / uniform anterior) que identifica os parâmetros \ mathbf {θ} que produzem a distribuição do modelo p_ {model} \ esquerda (\, \ cdot \,; \ mathbf {θ} \ right)...
Se alguém dissesse "Esse método usa o MLE como estimativa de pontos para o parâmetro que maximiza , portanto, é freqüentista; além disso, não é bayesiano".P(x|θ)P(x|θ)\mathrm{P}(x|\theta) você concordaria? Atualização em segundo plano : Recentemente, li um artigo que afirma ser freqüentista....
Estou saindo dessa pergunta , caso alguém queira seguir a trilha. Basicamente, eu tenho um conjunto de dados ΩΩ\Omega composto por NNN objetos em que cada objeto tem um determinado número de valores medidos anexados (dois neste
É possível aplicar o procedimento MLE usual à distribuição do triângulo? - Estou tentando, mas pareço estar bloqueado em uma etapa ou outra da matemática pela maneira como a distribuição é definida. Estou tentando usar o fato de conhecer o número de amostras acima e abaixo de c (sem saber c): esses...
Como posso construir um intervalo de confiança assintótica para um parâmetro real, iniciando no MLE para esse
No teorema bayesiano, , e do livro que estou lendo, é chamado de probabilidade , mas presumo que seja apenas a probabilidade condicional de dado , certo? p(x|y)p ( y| x)= p ( x | y) p ( y)p ( x )p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p ( x | y)p(x|y)p(x|y)yxxxyyy A estimativa de...
Eu tenho algumas perguntas conceituais simples que gostaria de esclarecer sobre o MLE (Estimativa de Máxima Verossimilhança) e qual o vínculo que ele tem, se houver, com o EM (Maximização de Expectativas). Pelo que entendi, se alguém disser "Usamos o MLE", isso significa automaticamente que eles...
Estou usando o Bayes para resolver um problema de cluster. Depois de fazer alguns cálculos, acabo com a necessidade de obter a razão de duas probabilidades: P(A)/P(B)P(A)/P(B)P(A)/P(B) para obter P(H|D)P(H|D)P(H|D) . Essas probabilidades são obtidas pela integração de dois KDEs multivariados 2D...
Queria entender melhor o teste exato de Fisher, então inventei o seguinte exemplo de brinquedo, em que f e m correspondem a homens e mulheres e n e y correspondem a "consumo de refrigerante" como este: > soda_gender f m n 0 5 y 5 0 Obviamente, isso é uma simplificação drástica, mas eu não...
Estou lendo PRML e não entendo a imagem. Poderia, por favor, dar algumas dicas para entender a imagem e por que o MLE de variação em uma distribuição gaussiana é tendencioso? 1,55 fórmula: fórmula 1,56 σ 2 M L E =1μML E= 1N∑n = 1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2ML E=...
Estou tentando calcular a probabilidade de log para uma regressão de mínimos quadrados não linear generalizada para a função f(x)=β1(1+xβ2)β3f(x)=β1(1+xβ2)β3f(x)=\frac{\beta_1}{(1+\frac x\beta_2)^{\beta_3}}otimizado pelagnlsfunção no pacote Rnlme, usando a matriz de covariância de variância gerada...
Enquanto estou estudando a estimativa de máxima verossimilhança, para fazer inferência na estimativa de máxima verossimilhança, precisamos conhecer a variação. Para descobrir a variação, preciso conhecer o Rao Lower Limound do Cramer, que se parece com uma Matriz Hessiana com Segunda Derivação na...
Alguém poderia me dizer quais são as condições de regularidade para a distribuição assintótica do teste da Razão de Verossimilhança? Em todo lugar que olho, está escrito 'Sob as condições de regularidade' ou 'sob as regularidades probabilísticas'. Quais são exatamente as condições? Que o primeiro...
Seja px,ypx,yp_{x,y} uma distribuição conjunta de duas variáveis categóricas X,YX,YX,Y , com x,y∈{1,…,K}x,y∈{1,…,K}x,y\in\{1,\ldots,K\} . Digamos que nnn amostras foram retiradas dessa distribuição, mas recebemos apenas as contagens marginais, ou seja, para j=1,…,Kj=1,…,Kj=1,\ldots,K...
Existe alguma interpretação Bayesiana, ML ou MDL de validação cruzada? Posso interpretar a validação cruzada como executando a atualização correta em um anterior especificamente