Estimador de máxima verossimilhança para distribuição binomial negativa

11

A questão é a seguinte:

Uma amostra aleatória de n valores é coletada de uma distribuição binomial negativa com o parâmetro k = 3.

  1. Encontre o estimador de probabilidade máxima do parâmetro π.
  2. Encontre uma fórmula assintótica para o erro padrão deste estimador.
  3. Explique por que a distribuição binomial negativa será aproximadamente normal se o parâmetro k for grande o suficiente. Quais são os parâmetros dessa aproximação normal?

Meu trabalho foi o seguinte:
1. Sinto que é isso que se deseja, mas não tenho certeza se sou preciso aqui ou se posso levar isso adiante, dadas as informações fornecidas?

p(x)=(x1k1)πk(1π)xkL(π)=Πinp(xn|π)(π)=Σinln(p(xn|π))(π)=Σinkπ(xk)(1π)
  1. Eu acho que o seguinte é o que é pedido. Na parte final, sinto que preciso substituir π^ por kx

    (π^)=kπ^2+x(1π^)2se(π^)=1(π^)se(π^)=π^2k(1π^)2x
  2. Não tenho muita certeza de como provar isso e ainda estou pesquisando. Quaisquer dicas ou links úteis serão muito apreciados. Sinto que isso está relacionado ao fato de que uma distribuição binomial negativa pode ser vista como uma coleção de distribuições geométricas ou o inverso de uma distribuição binomial, mas não tenho certeza de como abordá-la.

Qualquer ajuda seria muito apreciada

Syzorr
fonte
(1) Para encontrar a estimativa de máxima verossimilhança é necessário descobrir onde a função de verossimilhança de log atinge seu máximo. O cálculo da pontuação (a primeira derivada da função de probabilidade logarítmica em relação a ) é um começo - que valor isso levará ao máximo? (E lembre-se de que você não precisa estimar .)π^πk
Scortchi - Reinstate Monica
Esqueci de acrescentar a derivada da probabilidade logarítmica = 0 para descobrir o máximo. Se eu percebi isso corretamente (ainda estou trabalhando nisso desde a publicação), o que tenho ékπΣi=0n(xik)(1π)=0
Syzorr 6/15
Tome cuidado:Observe também que comece no 1.i=1nkπi=1n(xik)(1π)= ?i
Scortchi - Reinstate Monica
Em (2), raramente ocorre que o recíproco de uma diferença seja a diferença dos recíprocos. Esse erro afeta enormemente sua fórmula final para . se(π^)
whuber

Respostas:

6

1

p(x)=(xi1k1)πk(1π)xik

L(π;xi)=i=1n(xi1k1)πk(1π)xik

(π;xi)=i=1n[log(xi1k1)+klog(π)+(xik)log(1π)]d(π;xi)dπ=i=1n[kπ(xik)(1π)]

Defina como zero,

nkπ=i=1nxink1π

π^=nki=1nx

    2)

Para a segunda parte, você precisa usar o teorema de que , é a informação do fisher aqui. Portanto, o desvio padrão de será . Ou você pode chamá-lo de erro padrão, já que usa o CLT aqui.n(θ^θ)DN(0,1I(θ))I(θ)θ^[nI(θ)]1/2

Portanto, precisamos calcular as informações de Fisher para a distribuição binomial negativa.

2log(P(x;π))π2=kπ2xk(1π)2

I(θ)=E(kπ2xk(1π)2)=kπ2+k(1π)(1π)2π

Nota: para o pmf binomial negativoE(x)=kπ

Portanto, o erro padrão para éπ^[n(kπ2+k(1π)(1π)2π)]1/2

Simplifique que obtemos que obtemosse(π)=π2(π1)kn

    3)

A distribuição geométrica é um caso especial de distribuição binomial negativa quando k = 1. Nota é uma distribuição geométricaπ(1π)x1

Portanto, a variável binomial negativa pode ser escrita como uma soma de k variáveis ​​aleatórias independentes e distribuídas de forma idêntica (geométrica).

Portanto, pela distribuição binomial negativa do CLT será aproximadamente normal se o parâmetro k for grande o suficiente

Norte profundo
fonte
11
Por favor, leia sobre quais tópicos posso perguntar aqui? sobre questões de auto-estudo: em vez de fazer o dever de casa das pessoas, tentamos ajudá-las a fazer elas mesmas.
Scortchi - Reinstate Monica
2
Você não precisa considerar o tamanho da amostra no cálculo do MLE. Você pode estar confundindo um relato de observações independentes, cada uma das não. de tentativas necessárias para atingir falhas ( ) com uma conta de uma única observação do não. de ensaios necessários para atingir falhas ( ). O primeiro fornece uma probabilidade de ; o último, . nnkx1,x2,,xnkni=1nπ(1π)xikπk(1π)nk
Scortchi - Reinstate Monica
11
Você está certo, estou sempre confuso nesta parte. Muito obrigado. Também faço muitas perguntas neste fórum, mas realmente espero que as pessoas possam me dar respostas muito detalhadas, para que eu possa estudá-las passo a passo.
Deep North
Sim. Entendo por que a regra contra o fornecimento de muitos detalhes, mas essa resposta combinada com minhas próprias anotações da palestra me permitiu amarrar muitas das pontas soltas. Pretendo continuar conversando com meu professor hoje sobre isso para que eu possa obter esclarecimentos dele. É sexta-feira aqui agora. Cessão com vencimento na segunda-feira, conforme indicado acima. Aprendemos isso na quarta-feira e só temos um exemplo usando uma distribuição binomial. Muito obrigado pelos detalhes.
Syzorr 6/08/2015
Existem algumas falhas no seu trabalho lá porque eu (θ) = E [] não -E [] (que me confundiu até procurar as equações que você usou). Eventualmente acabaram comse(π)=π2(π1)kn
Syzorr