Estimador de máxima verossimilhança do parâmetro de localização da distribuição de Cauchy

10

Eu alcancei até

dlnLdμ=i=1n2(xiu)1+(xiu)2

Onde é o parâmetro de localização. E é uma função de probabilidade. Eu não estou entendendo como proceder. Por favor ajude.LuL

user89929
fonte
Você já olhou aqui? pt.wikipedia.org/wiki/…
Você não pode resolver isso diretamente. Você pode usar Newton-Raphson para obter melhores resultados.
Deep North
@DeepNorth exatamente! Mas não estou conseguindo entender como usar o método Newton Raphson. Por favor explique.
User89929
@ Bey Sim, eu li. Mas ainda não conseguem adivinhar exatamente o que estão dizendo.
User89929

Respostas:

10

Ok, digamos que o pdf para o cauchy seja:

θf(x;θ)=1π11+(xθ)2 aqui é mediana, não média, pois para Cauchy a média é indefinida.θ

L(θ;x)=1π11+(x1θ)21π11+(x2θ)21π11+(xnθ)2=1πn1[1+(xiθ)2]

(θ;x)=nlogπi=1nlog[1+(xiθ)2]

d(θ;x)dθ=i=1n2(xiθ)1+(xiθ)2

É exatamente isso que você tem, exceto aqui é mediana, não má. Suponho que seja mediano em sua fórmula.uθu

Próxima etapa, para encontrar mle, precisamos definird(θ;x)dθ=i=1n2(xiθ)1+(xiθ)2=0

Agora é sua variável e valores conhecidos, você precisa resolver a equaçãox i s n i = 1 2 ( x i - θ )θxisi=1n2(xiθ)1+(xiθ)2=0

ou seja, resolver . Parece resolver esta equação será muito difícil. Portanto, precisamos do método de Newton-Raphson.2(x1θ)1+(x1θ)2+2(x2θ)1+(x2θ)2++2(xnθ)1+(xnθ)2=0

Eu acho que muitos livros de cálculo falam sobre o método

A fórmula do método Newton-Raphson pode ser escrita como

(1)θ1^=θ0^(θ0^)(θ0^)

θθ0^ é o seu palpite inicial deθ

é a primeira derivada da função de probabilidade de log.

é a segunda derivada da função de probabilidade de log.

De você pode obter depois colocar em depois obter e colocá-lo em para obter ... continue com as iterações até que não haja grandes alterações entre e ^ θ 1 ^ θ 1 (1) ^ θ 2 (1) ^ θ 3 ^ θ n ^ θ n - 1θ0^θ1^θ1^(1)θ2^(1)θ3^θn^θn1^

Os itens a seguir são a função R que escrevi para obter a distribuição Cauchy.

mlecauchy=function(x,toler=.001){      #x is a vector here
startvalue=median(x)
n=length(x);
thetahatcurr=startvalue;
# Compute first deriviative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
# Continue Newton’s method until the first derivative
# of the likelihood is within toler of 0.001
while(abs(firstderivll)>toler){
# Compute second derivative of log likelihood
 secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2);
# Newton’s method update of estimate of theta
thetahatnew=thetahatcurr-firstderivll/secondderivll;
thetahatcurr=thetahatnew;
# Compute first derivative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
}
list(thetahat=thetahatcurr);
}

Agora, suponha que seus dados sejamx1=1.94,x2=0.59,x3=5.98,x4=0.08,x50.77

x<-c(-1.94,0.59,-5.98,-0.08,-0.77)
mlecauchy(x,0.0001)

Resultado:

#$thetahat
#[1] -0.5343968

Também podemos usar a função R build para obter mle.

optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)),  c(-100,100)) 

#we use negative sign here

Resultados:

#$minimum
#[1] -0.5343902

O resultado é quase o mesmo que os códigos caseiros.


Ok, conforme necessário, vamos fazer isso manualmente.

Primeiro, obtemos um palpite inicial de que será a mediana dos dados5.98,1.94,0.77,0.08,0.59

A mediana é0.77

Em seguida, já sabemos quel(θ)=dl(θ;x)dθ=i=1n2(xiθ)1+(xiθ)2

e

l(θ)=dl2(θ;x)d(θ=d(i=1n2(xiθ)1+(xiθ)2)dθ=2i=1n(xiθ)21[1+(xiθ)2]2

Agora, conectamos o ou seja, a mediana de eθ0^l(θ)l(θ)

ou seja, substitua por ou seja, mediana ou sejaθθ0^0.77

(θ)=i=1n2(xiθ)1+(xiθ)2=2[5.98(0.77)]1+[(5.98(0.77)2]+2[1.94(0.77)]1+[(1.94(0.77)2]+2[0.77(0.77)]1+[(0.77(0.77)2]+2[0.08(0.77)]1+[(0.08(0.77)2]+2[0.59(0.77)]1+[(0.59(0.77)2]=??

Em seguida, conecte a e para obter seguida, você pode obterx1x50.77(θ)θ1^

Ok, eu tenho que parar por aqui, é muito problemático calcular esses valores manualmente.

Norte profundo
fonte
Sua resposta está certa. Eu fiz da mesma maneira. Mas só podemos seguir esse caminho se conhecermos os valores da amostra. Isso significa que não há uma forma compacta ou generalizada para o parâmetro MLE de localização da distribuição Cauchy?
user89929
Eu acho que a forma generalizada para o MLE será muito complicada. Não sei se existe.
Deep North
Verifique isso .. stats.stackexchange.com/questions/98971/… Existe um formulário generalizado para isso. Mas eles fizeram alguma distribuição centrada se Cauchy, não sei como! Eles assumiram a amostra do tamanho 2. Eu não estou entendendo o porquê! Por favor ajude.
user89929
Eles assumiram e eles só tem este dois pontos de dados e , eu acho que é um caso muito especial não é uma forma generalizada. x - xx1=x;x2=xxx
Deep North
Umm .. Eu ainda tenho algumas dúvidas. 1. Qual será o palpite inicial para o chapéu teta? Será o valor mediano da amostra fornecida? 2. l 'e l "são derivados em relação a theta ou x?
user89929 27/09/15