Eu tenho um modelo para prever uma trajetória (x em função do tempo) com vários parâmetros. No momento, calculo o erro quadrático médio da raiz (RMSE) entre a trajetória prevista e a trajetória registrada experimentalmente. Atualmente, minimizo essa diferença (o RMSE) usando simplex (fminsearch no...
Ao executar a regressão, se seguirmos a definição de: Qual é a diferença entre uma probabilidade parcial, uma probabilidade de perfil e uma probabilidade marginal? que, máxima verossimilhança encontre β e θ que maximize L (β, θ | dados). Enquanto, Probabilidade marginal Nós integramos θ da...
Digamos que tenho um problema de seleção de modelos e estou tentando usar o AIC ou o BIC para avaliar os modelos. Isso é direto para modelos que possuem algum número kkk de parâmetros com valor real. No entanto, e se um de nossos modelos (por exemplo, o modelo de Mallows ) tiver uma permutação,...
Recentemente, revi alguns artigos antigos de Nancy Reid, Barndorff-Nielsen, Richard Cox e, sim, um pouco de Ronald Fisher sobre o conceito de "inferência condicional" no paradigma freqüentista, o que parece significar que as inferências são baseadas considerando apenas o "subconjunto relevante" do...
Vejo mencionado em vários lugares que a ANOVA faz sua estimativa usando o método dos momentos. Estou confuso com essa afirmação porque, embora não esteja familiarizado com o método dos momentos, meu entendimento é que é algo diferente e não equivalente ao método da máxima probabilidade; por outro...
Premissa: essa pode ser uma pergunta estúpida. Conheço apenas as declarações sobre as propriedades assintóticas do MLE, mas nunca estudei as provas. Se sim, talvez eu não esteja fazendo essas perguntas, ou talvez eu perceba que essas perguntas não fazem sentido ... então, por favor, vá devagar...
Até onde eu sei, a diferença entre o modelo logístico e o modelo de resposta fracionária (frm) é que a variável dependente (Y) na qual frm é [0,1], mas a logística é {0, 1}. Além disso, a frm usa o estimador de quase-verossimilhança para determinar seus parâmetros. Normalmente, podemos usar...
1. O problema Eu tenho algumas medidas de uma variável , onde , para a qual eu tenho uma distribuição obtida via MCMC, que por simplicidade assumirei ser um gaussiano de média e variância \ sigma_t ^ 2 .ytyty_tt=1,2,..,nt=1,2,..,nt=1,2,..,nfyt(yt)fyt(yt)f_{y_t}(y_t)μtμt\mu_tσ2tσt2\sigma_t^2 Eu...
Esse é um pensamento estranho que eu tive ao revisar algumas estatísticas antigas e, por algum motivo, não consigo pensar na resposta. Um PDF contínuo nos diz a densidade dos valores observados em um determinado intervalo. Ou seja, se , por exemplo, a probabilidade de uma realização cair entre e é...
Eu escrevi algum código que pode fazer a filtragem Kalman (usando vários filtros do tipo Kalman [Information Filter et al.]) Para a Análise Linear Gaussiana de Espaço de Estado para um vetor de estado n-dimensional. Os filtros funcionam muito bem e estou obtendo uma saída agradável. No entanto, a...
Dado um conjunto de dados com resultados binários e alguma matriz preditora X \ in \ mathbb {R} ^ {n \ times p} , o modelo de regressão logística padrão estima coeficientes \ beta_ {MLE } que maximizam a probabilidade binomial. Quando X está na classificação completa, \ beta_ {MLE} é único; quando...
Quando é preferível usar a estimativa de máxima verossimilhança em vez dos mínimos quadrados comuns? Quais são os pontos fortes e as limitações de cada um? Estou tentando reunir conhecimentos práticos sobre onde usar cada um em situações
Estou tentando entender a regressão logística de Firth (método de lidar com a separação perfeita / completa ou quase-completa na regressão logística) para que eu possa explicá-la a outras pessoas em termos simplificados. Alguém tem uma explicação idiota sobre que modificação a estimativa de Firth...
Em geral, parece que o método dos momentos está apenas correspondendo à média da amostra observada ou à variação dos momentos teóricos para obter estimativas dos parâmetros. Geralmente é o mesmo que o MLE para famílias exponenciais, pelo que entendi. No entanto, é difícil encontrar uma definição...
MLE = Estimativa de Máxima Verossimilhança MAP = Máximo a posteriori O MLE é intuitivo / ingênuo, pois começa apenas com a probabilidade de observação dada o parâmetro (ou seja, a função de verossimilhança) e tenta encontrar o parâmetro que melhor se adequa à observação . Mas não leva em...
Esta questão é inspirada na longa discussão nos comentários aqui: Como a regressão linear usa a distribuição normal? No modelo de regressão linear usual, por simplicidade, aqui escrito com apenas um preditor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i onde são...
Após a centralização, as duas medidas x e −x podem ser consideradas observações independentes de uma distribuição de Cauchy com função de densidade de probabilidade: f(x:θ)=f(x:θ)=f(x :\theta) = 1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞<x<∞,−∞<x<∞, -∞ < x < ∞ Mostre...
Fundo: Estou tentando seguir a revisão de Princeton sobre a estimativa de MLE para GLM . I compreender os conceitos básicos de estimativa MLE: likelihood, score, observado e esperado Fisher informationea Fisher scoringtécnica. E eu sei como justificar a regressão linear simples com a estimativa...
Seja px,ypx,yp_{x,y} uma distribuição conjunta de duas variáveis categóricas X,YX,YX,Y , com x,y∈{1,…,K}x,y∈{1,…,K}x,y\in\{1,\ldots,K\} . Digamos que nnn amostras foram retiradas dessa distribuição, mas recebemos apenas as contagens marginais, ou seja, para j=1,…,Kj=1,…,Kj=1,\ldots,K...
Encontrei três propostas para lidar com a super-dispersão em uma variável de resposta de Poisson e um modelo inicial de efeitos fixos: Use um modelo quase; Use GLM binomial negativo; Use um modelo misto com um efeito aleatório no nível de assunto. Mas qual escolher, e por quê? Existe algum...