Motivação

No contexto da inferência pós-seleção de modelo, Leeb & Pötscher (2005) escrevem:

Embora se saiba há muito tempo que a uniformidade (pelo menos localmente) dos parâmetros é uma questão importante na análise assintótica, essa lição foi muitas vezes esquecida na prática diária da teoria econométrica e estatística, onde geralmente nos contentamos em provar resultados assintóticos pontuais ( ou seja, resultados válidos para cada valor fixo de parâmetro verdadeiro). Esta amnésia - e a prática resultante - felizmente não tem consequências dramáticas, desde que apenas sejam considerados estimadores suficientemente "regulares" em modelos suficientemente "regulares". No entanto, como os estimadores pós-seleção de modelo são bastante "irregulares", os problemas de uniformidade aparecem aqui com uma vingança.

fundo

Convergência uniforme

Suponhamos que um estimador de convergências uniformemente (WRT ) em distribuição de alguns variável aleatória . Então, para uma determinada precisão , sempre podemos encontrar um tamanho de amostra modo que, para cada a distância da distribuição de e a distribuição de ( ou seja, a distribuição limitante) será, no máximo, para cada .$\hat\theta_n(\alpha)$Z ε > 0 N ε$\alpha$$Z$$\varepsilon>0$$N_{\varepsilon}$$\alpha$Zεn>$\hat\theta_{n}(\alpha)$$Z$$\varepsilon$$n>N$

Isso pode ser útil na prática:

1. Ao projetar um experimento, podemos limitar a imprecisão em um nível desejado, arbitrariamente pequeno , encontrando o .N $\varepsilon$$N_{\varepsilon}$
2. Para uma determinada amostra do tamanho , podemos encontrar para limitar a imprecisão.ε $N$$\varepsilon_N$

Convergência ponto a ponto (mas não uniforme)

Por outro lado, suponhamos que um estimador de converge em um pontual forma (WRT ) - mas não uniformemente - em distribuição de alguma variável aleatória . Devido à não uniformidade, existe uma precisão tal que, para qualquer tamanho de amostra , sempre podemos encontrar um valor tal que a distância da distribuição de e a distribuição de (isto é, a distribuição limitante) será pelo menos para alguns .αZεN>0NαN$\hat\psi_n(\alpha)$$\alpha$$Z$$\varepsilon_N>0$$N$$\alpha_N$Zεn>$\hat\psi_{n}(\alpha_N)$$Z$$\varepsilon$$n>N$

Alguns pensamentos:

1. Isso não nos diz quão grande será o .$\varepsilon_N$
2. Ao projetar um experimento, não podemos mais limitar nossa imprecisão a um arbitrário encontrando um . Mas talvez pudéssemos ligar em algum nível baixo, então não precisaríamos nos preocupar com isso. Mas nem sempre podemos ser capazes de amarrá-lo onde queremos.N ε ε $\varepsilon$$N_{\varepsilon}$$\varepsilon_N$
3. Nós pode ou não pode encontrar para limitar a imprecisão para uma dada amostra de tamanho .$\varepsilon_N$$N$

Questões

1. A falta de convergência uniforme torna o estimador praticamente inútil?
   (Acho que a resposta é "não", pois muitos trabalhos se concentram na convergência pontual ...)
2. Se não, então, quais são alguns exemplos básicos em que o estimador não uniformemente convergente é útil?

Referências:

• Leeb, H. & Pötscher, BM (2005). Seleção e inferência de modelos: fatos e ficção. Teoria Econométrica, 21 (01), 21-59.

É difícil dar uma resposta definitiva, porque "útil" e "inútil" não são matemáticos e, em muitas situações, subjetivas (em outras, pode-se tentar formalizar a utilidade, mas essas formalizações estão novamente abertas à discussão).

Aqui estão alguns pensamentos.

$n$

(b) A convergência pontual é ainda mais forte do que não ter nenhuma convergência.

$n$$n$

(d) Caso não tenhamos um resultado uniforme de convergência, existem várias possibilidades:

i) A convergência uniforme pode de fato se manter, mas ninguém conseguiu provar ainda.

ii) A convergência uniforme pode ser violada, no entanto, só pode ser violada em áreas do espaço de parâmetros que não são realistas; portanto, o comportamento real da convergência talvez esteja correto. Como em (c), apenas porque você não tem um teorema que garanta que você está próximo do valor real não significa que você está longe.

iii) A convergência uniforme pode ser violada e você pode encontrar comportamento irregular em todos os tipos de situações realistas. Muita sorte.

$n$$n$

(e) Agora você pode dizer que uma convergência uniforme é claramente útil porque nos dá uma garantia com um claro valor prático e sem isso não teremos nenhuma garantia. Mas, além do fato de que um estimador pode ser bom, mesmo que não possamos garantir que seja bom, também na verdade nuncatenha uma garantia que realmente se aplique na prática, porque na prática as suposições do modelo não se mantêm, e a situação é realmente mais complicada do que dizer: OK, o modelo P está errado, mas há um modelo verdadeiro Q que é muito complicado e pode ser domesticado por um resultado de convergência uniforme não paramétrico; não, todos esses modelos são idealizações e nada é iid ou segue qualquer padrão regular de dependência ou não-identidade (nem mesmo os números aleatórios que usamos nas simulações são de fato números aleatórios). Assim também a garantia de convergência uniforme se aplica a uma situação idealizada, e a prática é uma história diferente. Usamos a teoria como convergência uniforme para fazer declarações de qualidade sobre estimadores em situações idealizadas, porque essas são as situações que podemos lidar. Só podemos realmente dizer, em situações idealizadas,

$n$