Encontrei um problema no livro didático para estimar a média. O problema do livro é o seguinte: Suponha que pontos de dados, , ,. . . , x_N , foram gerados por um pdf gaussiano unidimensional de média desconhecida, mas de variação conhecida. Derivar a estimativa ML da média.x 1 x 2 x...
O título diz tudo. Entendo que os mínimos quadrados e a máxima verossimilhança fornecerão o mesmo resultado para os coeficientes de regressão se os erros do modelo forem normalmente distribuídos. Mas, o que acontece se os erros não forem normalmente distribuídos? Por que os dois métodos não são...
Existe alguma interpretação Bayesiana, ML ou MDL de validação cruzada? Posso interpretar a validação cruzada como executando a atualização correta em um anterior especificamente
Minhas perguntas reais estão nos dois últimos parágrafos, mas para motivá-las: Se estou tentando estimar a média de uma variável aleatória que segue uma distribuição Normal com uma variação conhecida, li que colocar um uniforme antes da média resulta em uma distribuição posterior proporcional à...
Estou tentando planejar um plano de estudo para aprender MLE. Para fazer isso, estou tentando descobrir qual é o nível mínimo de cálculo necessário para entender o MLE. É suficiente entender o básico do cálculo (ou seja, encontrar o mínimo e o máximo de funções) para entender o...
Considere um modelo AR ( ) (assumindo média zero por simplicidade):ppp xt= φ1 1xt - 1+ … + Φpxt - p+ εtxt=φ1 1xt-1 1+…+φpxt-p+εt x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t O estimador OLS (equivalente ao estimador condicional de verossimilhança máxima) para é conhecido...
Propriedade de invariância do MLE: se é o MLE de , então para qualquer função , o MLE de é . θ^θ^\hat{\theta}θθ\thetaf( θ )f(θ)f(\theta)f( θ )f(θ)f(\theta)f( θ^)f(θ^)f(\hat{\theta}) Além disso, deve ser uma função individual.fff O livro diz: "Por exemplo, para estimar , o quadrado de uma média...
Eu estava lendo o livro The Identification Problem In Econometrics, de Franklin M. Fisher, e fiquei confuso com a parte que ele demonstra a identificação visualizando a função de probabilidade. O problema pode ser simplificado como: Para uma regressão , em que , e são os parâmetros. Suponha...
Quais são as estimativas dos parâmetros fórmula para a inclinação normal? Se você puder, a derivação via MLE ou Mom também seria ótima. obrigado Edit . Eu tenho um conjunto de dados para o qual eu posso ver visualmente por gráficos que está ligeiramente inclinado para a esquerda. Quero estimar a...
Recentemente, tomei consciência de que métodos "sem probabilidade" são analisados na literatura. No entanto, não sei ao certo o que significa um método de inferência ou otimização sem probabilidade . No aprendizado de máquina, o objetivo geralmente é maximizar a probabilidade de alguns...
Em geral, maximizamos uma função L(θ;x1,…,xn)=∏i=1nf(xi∣θ)eu(θ;x1,…,xn)=∏Eu=1nf(xEu∣θ) L(\theta; x_1, \ldots, x_n) = \prod_{i=1}^n f(x_i \mid \theta) onde fff é a função de densidade de probabilidade se a distribuição subjacente for contínua e uma função de massa de probabilidade (com soma em...
Estou lendo o artigo da teoria de Doug Bates no pacote lme4 de R para entender melhor os detalhes dos modelos mistos e me deparei com um resultado intrigante que eu gostaria de entender melhor sobre o uso da máxima verossimilhança restrita (REML) para estimar a variação . Na seção 3.3, no critério...
A questão é a seguinte: Uma amostra aleatória de n valores é coletada de uma distribuição binomial negativa com o parâmetro k = 3. Encontre o estimador de probabilidade máxima do parâmetro π. Encontre uma fórmula assintótica para o erro padrão deste estimador. Explique por que a...
Suponha que eu observe iid e desejo testar vech para um matriz conformável e vetor . Existe trabalho conhecido sobre esse problema?xi∼N(μ,Σ)xi∼N(μ,Σ)x_i \sim \mathcal{N}\left(\mu,\Sigma\right)H0:A H0:A H_0: A\ (Σ−1)=a(Σ−1)=a\left(\Sigma^{-1}\right) = aAAAaaa A tentativa óbvia (para mim) seria...
Estou lendo um livro sobre sabreetria, especificamente Mathletics de Wayne Winston, e no primeiro capítulo ele apresenta uma quantidade que pode ser usada para prever a taxa de vitórias das equipes: e ele parece sugerir que, no meio da temporada, ele pode ser usado para prever a taxa de...
Gostaria de entender alguns fatos sobre os estimadores de máxima verossimilhança (MLEs) para regressões logísticas. É verdade que, em geral, o MLE para regressão logística é tendencioso? Eu diria "sim". Eu sei, por exemplo, que a dimensão da amostra está relacionada ao viés assintótico dos...
Estou trabalhando em um conjunto de dados. Depois de usar algumas técnicas de identificação de modelos, criei um modelo ARIMA (0,2,1). Usei a detectIOfunção no pacote TSAem R para detectar um outlier inovador (IO) na 48ª observação do meu conjunto de dados original. Como faço para incorporar esse...
Estou interessado em uma boa referência para resultados relativos a propriedades assintóticas de estimadores de máxima verossimilhança. Considere um modelo que é uma densidade dimensional e é o MLE com base em uma amostra de que é o valor "verdadeiro" de . Estou interessado em duas...
Matematicamente, muitas vezes é visto que expressões e algoritmos para Expectation Maximization (EM) geralmente são mais simples para modelos mistos, mas parece que quase tudo (se não tudo) que pode ser resolvido com EM também pode ser resolvido com MLE (por, digamos, o método Newton-Raphson, para...
Esta questão é do problema 7.4.9 de Robert Hogg, Introdução à estatística matemática 6a versão, na página 388. Seja ser iid com pdf zero em outro lugar, onde .X1,...,XnX1,...,XnX_1,...,X_nf(x;θ)=1/3θ,−θ<x<2θ,f(x;θ)=1/3θ,−θ<x<2θ,f(x;\theta)=1/3\theta,-\thetay_n/2), \Rightarrow...