Jeffrey Wooldridge em sua Análise Econométrica de Dados de Painel e Seção Transversal (página 357) diz que o Hessian empírico "não é garantido que seja definido positivo, ou mesmo semidefinido positivo, para a amostra em particular com a qual estamos trabalhando". Isso me parece errado, pois...
Parece haver muita confusão na comparação entre usar glmnetdentro caretpara procurar uma lambda ideal e usar cv.glmnetpara fazer a mesma tarefa. Muitas perguntas foram feitas, por exemplo: Modelo de classificação train.glmnet vs. cv.glmnet? Qual é a maneira correta de usar glmnet com...
Esta questão lida com a estimativa de máxima verossimilhança restrita (REML) em uma versão específica do modelo linear, a saber: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), onde X(α)X(α)X(\alpha) é uma matriz ( )...
Gostaria de saber se a estimativa de máxima probabilidade já foi usada em estatística. Aprendemos o conceito, mas me pergunto quando é realmente usado. Se assumirmos a distribuição dos dados, encontraremos dois parâmetros, um para a média e outro para a variação, mas você realmente os usa em...
Seja uma estimativa de probabilidade máxima de um parâmetro verdadeiro de algum modelo. À medida que o número de pontos de dados aumenta, o erro geralmente diminui como O (1 / \ sqrt n) . Usando a desigualdade do triângulo e as propriedades da expectativa, é possível mostrar que essa taxa de erro...
No primeiro capítulo do livro Geometria Algébrica e Teoria Estatística da Aprendizagem, que fala sobre a convergência de estimativas em diferentes espaços funcionais, ele menciona que a estimativa bayesiana corresponde à topologia de distribuição de Schwartz, enquanto a estimativa de máxima...
Esta questão é inspirada na longa discussão nos comentários aqui: Como a regressão linear usa a distribuição normal? No modelo de regressão linear usual, por simplicidade, aqui escrito com apenas um preditor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i onde são...
Estou tentando entender a regressão logística de Firth (método de lidar com a separação perfeita / completa ou quase-completa na regressão logística) para que eu possa explicá-la a outras pessoas em termos simplificados. Alguém tem uma explicação idiota sobre que modificação a estimativa de Firth...
Vejo mencionado em vários lugares que a ANOVA faz sua estimativa usando o método dos momentos. Estou confuso com essa afirmação porque, embora não esteja familiarizado com o método dos momentos, meu entendimento é que é algo diferente e não equivalente ao método da máxima probabilidade; por outro...
Quando é preferível usar a estimativa de máxima verossimilhança em vez dos mínimos quadrados comuns? Quais são os pontos fortes e as limitações de cada um? Estou tentando reunir conhecimentos práticos sobre onde usar cada um em situações
Dado um conjunto de dados com resultados binários e alguma matriz preditora X \ in \ mathbb {R} ^ {n \ times p} , o modelo de regressão logística padrão estima coeficientes \ beta_ {MLE } que maximizam a probabilidade binomial. Quando X está na classificação completa, \ beta_ {MLE} é único; quando...
Após a centralização, as duas medidas x e −x podem ser consideradas observações independentes de uma distribuição de Cauchy com função de densidade de probabilidade: f(x:θ)=f(x:θ)=f(x :\theta) = 1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞<x<∞,−∞<x<∞, -∞ < x < ∞ Mostre...
Eu escrevi algum código que pode fazer a filtragem Kalman (usando vários filtros do tipo Kalman [Information Filter et al.]) Para a Análise Linear Gaussiana de Espaço de Estado para um vetor de estado n-dimensional. Os filtros funcionam muito bem e estou obtendo uma saída agradável. No entanto, a...
Esta questão é motivada por esta . Procurei duas fontes e foi isso que encontrei. A. van der Vaart, Estatísticas Assintóticas: Raramente é possível calcular explicitamente a probabilidade de um perfil, mas sua avaliação numérica é geralmente viável. Então a probabilidade do perfil pode servir...
Eu tenho um modelo para prever uma trajetória (x em função do tempo) com vários parâmetros. No momento, calculo o erro quadrático médio da raiz (RMSE) entre a trajetória prevista e a trajetória registrada experimentalmente. Atualmente, minimizo essa diferença (o RMSE) usando simplex (fminsearch no...
MLE = Estimativa de Máxima Verossimilhança MAP = Máximo a posteriori O MLE é intuitivo / ingênuo, pois começa apenas com a probabilidade de observação dada o parâmetro (ou seja, a função de verossimilhança) e tenta encontrar o parâmetro que melhor se adequa à observação . Mas não leva em...
Recentemente, revi alguns artigos antigos de Nancy Reid, Barndorff-Nielsen, Richard Cox e, sim, um pouco de Ronald Fisher sobre o conceito de "inferência condicional" no paradigma freqüentista, o que parece significar que as inferências são baseadas considerando apenas o "subconjunto relevante" do...
Digamos que tenho um problema de seleção de modelos e estou tentando usar o AIC ou o BIC para avaliar os modelos. Isso é direto para modelos que possuem algum número kkk de parâmetros com valor real. No entanto, e se um de nossos modelos (por exemplo, o modelo de Mallows ) tiver uma permutação,...
Esse é um pensamento estranho que eu tive ao revisar algumas estatísticas antigas e, por algum motivo, não consigo pensar na resposta. Um PDF contínuo nos diz a densidade dos valores observados em um determinado intervalo. Ou seja, se , por exemplo, a probabilidade de uma realização cair entre e é...
Premissa: essa pode ser uma pergunta estúpida. Conheço apenas as declarações sobre as propriedades assintóticas do MLE, mas nunca estudei as provas. Se sim, talvez eu não esteja fazendo essas perguntas, ou talvez eu perceba que essas perguntas não fazem sentido ... então, por favor, vá devagar...