Seleção adaptativa do número de replicações de inicialização

Como na maioria dos métodos de Monte Carlo, a regra para inicialização é que, quanto maior o número de repetições, menor o erro de Monte Carlo. Mas há retornos decrescentes, portanto, não faz sentido executar o maior número possível de réplicas.

Suponha que você deseje garantir que sua estimativa $\hat θ$ de uma certa quantidade $θ$ esteja dentro de $ε$ da estimativa $\tilde θ$ que você obteria com infinitas repetições. Por exemplo, convém ter certeza razoável de que as duas primeiras casas decimais de $\hat θ$ não estão erradas devido ao erro de Monte Carlo, caso em que $ε = .005$ . Existe um procedimento adaptável que você pode usar, no qual continua gerando réplicas de autoinicialização, verificando $\hat θ$ e parando de acordo com uma regra que, digamos, $|\hat θ - \tilde θ| < ε$ com 95% de confiança?

NB Embora as respostas existentes sejam úteis, eu ainda gostaria de ver um esquema para controlar a probabilidade de que $|\hat θ - \tilde θ| < ε$ .

bootstrap Kodiologist
fonte

Oponho-me a chamar o método de Monte Carlo de inicialização. Embora nem sempre sejam necessários métodos de Monte Carlo para obter boas aproximações às estimativas de autoinicialização, porque a enumeração é inviável.

Michael R. Chernick

Não sei exatamente o que você está perguntando. Mas muitas vezes é difícil saber com antecedência quantas réplicas de autoinicialização são necessárias para fazer a aproximação de Monte Carlo à estimativa de autoinicialização próxima à estimativa real de autoinicialização. Sugeri fazer algo parecido com o que você está sugerindo. Isso seria adicionar replicações até que a alteração na estimativa seja pequena. Isso seria uma indicação de convergência.

Michael R. Chernick

@MichaelChernick "Não sei exatamente o que você está perguntando." - O que posso fazer para ajudar a esclarecer isso?

Kodiologist

Quando você fala sobre seleção adaptativa, quer dizer o que estou sugerindo? Isso é continuar a levar as replicações de bootstrap até que duas estimativas sucessivas estejam muito próximas (digamos que a diferença absoluta seja menor que um especificado ).

ϵ

$\epsilon$

Michael R. Chernick

@MichaelChernick Eu não acho que olhar diferenças entre sucessivos s seria suficiente para obter . Mas eu não tenho certeza.

\tilde{θ}

$\tilde θ$

| \hat{θ} - \tilde{θ} | < ε

$|\hat θ - \tilde θ| < ε$

Kodiologist

Respostas:

Se a estimativa de nas réplicas é normalmente distribuída, acho que você pode estimar o erro em partir do desvio padrão : $\theta$ $\hat{\sigma}$ $\hat{\theta}$ $\sigma$

\hat{σ} = \frac{σ}{\sqrt{n}}

$\hat{\sigma} = \frac{\sigma}{\sqrt{n}}$

então você pode simplesmente parar quando . $1.96*\hat{\sigma} < \epsilon$

Ou entendi mal a pergunta? Ou você quer uma resposta sem assumir a normalidade e na presença de autocorrelações significativas?

fabiob
fonte

Seria bom não ter que assumir a normalidade, mas certamente podemos assumir que as réplicas de autoinicialização são selecionadas independentemente, se esse é o tipo de dependência que você quer dizer com autocorrelação.

Kodiologist

Se não assumirmos a normalidade, porém, nem podemos ter certeza de que a média é uma boa estimativa para teta. Acredito que precisamos de mais hipóteses de propor uma solução ...

fabiob

Para ser claro, que coisa exatamente você supõe ser normal? Seu texto de resposta diz "as réplicas são normalmente distribuídas", mas cada réplica é uma amostra do mesmo tamanho da amostra original. Não sei o que significaria que uma coleção de amostras fosse normalmente distribuída.

Kodiologist

Estou assumindo ser normal a distribuição de a estimativa da quantidade em que você está interessado, que você executa na réplica . Vou editar minha formulação que não era clara.

θ_{i}

$\theta_i$

i

$i$

Fabiob

finalmente observe como minha resposta e a de Michael são as mesmas, se você substituir C-> e B -> , o que sugere uma maneira de "determinar" C. Você pode assumir a variação de , ou o dobro disso, se Você quer ser conservador. você concorda (ou acha que estou perdendo alguma coisa)?

σ^{2}

$\sigma^2$

n

$n$

θ_{i}

$\theta_i$

Fabiob 6/06

Nas páginas 113-114 da primeira edição do meu livro Métodos de Bootstrap: Guia do Profissional Wiley (1999) discuto métodos para determinar quantas replicações de bootstrap serão necessárias ao usar a aproximação de Monte Carlo.

Entro em detalhes sobre um procedimento devido a Hall descrito em seu livro The Bootstrap and Edgeworth Expansion, Springer-Verlag (1992). Ele mostra que quando o tamanho da amostra n é grande e o número de replicações de autoinicialização B é grande, a variação da estimativa de autoinicialização é C / B, em que C é uma constante desconhecida que não depende de n ou B. Portanto, se você pode determinar C ou vinculado acima, você pode determinar um valor para B que reduza o erro da estimativa ao especificado na sua pergunta. $\epsilon$

Descrevo uma situação em que C = 1/4. Mas se você não tem uma boa idéia do valor C, pode recorrer à abordagem que descreve em que ponto B = 500 diz e depois dobrá-lo para 1000 e comparar a diferença nessas estimativas de inicialização. Este procedimento pode ser repetido até que a diferença seja tão pequena quanto você deseja.

Outra idéia é dada por Efron no artigo "Melhores intervalos de confiança de inicialização (com discussão)", (1987) Journal of the American Statistical Association vol. 82 pp 171-200.

Michael R. Chernick
fonte

Ah, por "duas estimativas sucessivas", pensei que você quisesse dizer algo como a estimativa de da replicação 1.002 versus a estimativa de da replicação 1.003. Comparar a estimativa de todas as 500 primeiras réplicas com a das 500 primeiras ou com as 1.000 primeiras é mais intuitivo.

θ

$θ$

θ

$θ$

Kodiologist

Eu já vi Efron (1987) antes, mas qual parte trata da questão de escolher o número de replicações de inicialização?

Kodiologist

No meu livro, mencionei que em Efron (1967) e Booth e Sarkar (1998) eles apontam que após um número (grande) de iterações em particular, o erro na estimativa de bootstrap é dominado pelo erro devido ao uso da distribuição empírica (como uma aproximação à distribuição da população) torna pequeno o erro na aproximação de Monte Carlo. Não citei a página ou páginas em particular em que isso é discutido.

Michael R. Chernick

No comentário acima, eu quis dizer Efron (1987).

Michael R. Chernick 16/05/19