Por que o Rao-Blackwell Teorema requerem

10

O Teorema de Rao-Blackwell declara

Seja um estimador de com para todos . Suponha que seja suficiente para e deixe Então, para todos , A desigualdade é estrita, a menos que seja uma função de θE( θ 2)<θTθθ*=E( θ |T)θE(θ*-θ)2E( θ -θ)2 θ Tθ^θE(θ^2)<θTθθ=E(θ^|T)θ

E(θθ)2E(θ^θ)2
θ^T

Se eu entendi esse teorema corretamente, isso indica que, se eu tenho uma estatística suficiente para , o valor esperado condicional de dado é a solução para (\ hat {\ theta} - \ theta) ^ 2Tθθ^T ( θ - θ ) 2minθ^E(θ^θ)2

My Quesitons

  1. Estou correto que θ minimiza ( θ - θ ) 2E(θ^θ)2 ?
  2. Por que o Teorema Rao-Blackwell requer E(θ^2)< ?
  3. Por que a desigualdade é estrita, a menos que θ^ seja uma função de T ?
Stan Shunpike
fonte
O que é necessário para encontrar ? ( θ - θ ) 2minθ^E(θ^θ)2
Stan Shunpike 28/02

Respostas:

7
  1. Não, é um estimador melhor que mas não necessariamente o melhor (o que isso significa!)* θθθ^
  2. Se o estimador não tem variação, então seu risco é infinito e não há garantia de que tenha um risco finito (mesmo que isso possa acontecer como apontado por Horst Grünbusch em seus comentários).θ
  3. Sob variação finita para , a desigualdade é estrita devido à decomposição da variação como a soma da variação condicional esperada mais a variação da expectativa condicional A menos que a variação condicional esperada seja zero, o que equivale a uma função de apenas. var( θ )=ET[var( θ |t)]+vart(E[ θ |T])=ET[var(θ|t)]+vart(θ* ) θ Tθ^
    var(θ^)=ET[var(θ^|T)]+varT(E[θ^|T])=ET[var(θ|T)]+varT(θ)
    θ^T
Xi'an
fonte
11
ad 2: Por que é impossível que ? Considere como estimador para , em que e um rv distribuído por Cauchy não relacionado. E(θ^2|T)<E(θ^2)=θ^=X+CμXN(μ,σ2)C
Horst Grünbusch
11
@ HorstGrünbusch Por que a peça Cauchy desapareceu quando você condiciona em ? Também não é um estimador imparcial. Tθ^
dsaxton
11
@ HorstGrünbusch Parece-me que o seu nem sequer tem uma expectativa condicional (já que não tem uma expectativa), portanto seria indefinido. θ^TCθ
Juho Kokkala
2
Tudo bem, tudo que eu queria era sem variação, não sem expectativa. ;) Agora tomar , ou seja, de Student-t-distribuídos com 2 graus de liberdade e e independente de . Estatística suficiente é claramente . Então , masCCt2E(C)=0CXXE(X+C|X)=E(X|X)+E(C|X)=X+E(C)=X=Var(C)+Var(X)=Var(X+C)>Var(X+C|X)=σ2
Horst Grünbusch
Então, acho errado que um estimador Rao-Blackwell tenha necessariamente variação infinita se o estimador original tiver variação infinita. (No entanto, mesmo se ambos os desvios seria necessariamente infinita que ainda se mantêm.)
Horst Grünbusch
6
  1. Observe que ser uma estatística suficiente não é exclusivo. De maneira trivial, todos os dados são suficientes, mas condicionar um estimador a eles não muda nada. Portanto, uma estatística suficiente por si só não é suficiente (trocadilho!) Por ter um erro quadrático médio mínimo. Veja o teorema de Lehmann-Scheffé, que usa o teorema de Rao-Blackwell na prova, para uma suficiência suficiente (de fato, sendo suficiente e completa).

  2. Se ambos são infinitos, a fraca desigualdade é sempre verdadeira. Mas então, como um contra-exemplo, você pode construir uma estatística suficiente que não é uma função de mas que ainda possui uma variação infinita (de modo que apenas é válido).T

Tomemos, por exemplo, , uma variável aleatória distribuída com deslocada com e e como outra variável aleatória independente . O parâmetro a ser estimado é . O estimador original é . Uma estatística suficiente é obviamente . Tanto o estimador Rao-Blackwell e têm variação infinita. Portanto, a desigualdade se manteria fraca. Por outro lado, não é uma mera função det 2 E ( C 1 ) = μ V um r ( C 1 ) = C 2 ~ t 2 μ q = C 1 + C 2 C 1 E ( q | C 1 ) = C 1 θ C 1 + C 2 C 1C1t2+μt2E(C1)=μVar(C1)=C2t2μθ^=C1 1+C2C1 1E(θ^|C1 1)=C1 1θ^C1 1+C2C1 1: Envolve a outra variável aleatória, o que seria uma contradição com a última frase sobre a qual você fez sua terceira pergunta. De fato, alguns livros admitem variação infinita para o estimador original, mas, por sua vez, não podem declarar quando é válido.<

  1. Se é uma função de , você pode provar pelo teorema da fatoração que já é suficiente para . Então, novamente, acabamos melhorando nada. Além deste caso, a desigualdade é estrita, e essa é a afirmação não trivial do teorema. T θ θθ^Tθ^θ
Horst Grünbusch
fonte