Vantagem de múltiplas simulações em Monte Carlo à moda antiga?

O espírito dessa pergunta vem do "Monte Carlo comum", também conhecido como "bom e velho Monte Carlo"

Suponha que eu tenha uma variável aleatória , comμ : = E [ X $X$

$$\mu := E[X]\\ \sigma^2:=Var[X]$$

Ambos são valores desconhecidos, porque a função de distribuição de probabilidade de é desconhecida (ou os cálculos são intratáveis).$X$

De qualquer forma, suponha que podemos de alguma forma simular desenha (estes são independentes e identicamente distribuídas) a partir da distribuição de . Vamos definir os parâmetros de amostraX 1 , X 2 , … , X n$n$$X_1,X_2,\dots,X_n$$X$

$$\hat{\mu}_n := \frac{1}{n}\sum_{i=1}^{n}X_i\\ \hat{\sigma}_n^2 : = \frac{1}{n}\sum_{i=1}^{n}(X_i-\hat{\mu}_n)^2$$

De acordo com o Teorema do Limite Central, quando se tornar muito grande, a média da amostra obedecerá de perto a uma distribuição normalμ$n$$\hat{\mu}_n$

$$\hat{\mu} \sim N(\mu,\frac{\sigma^2}{n})$$

Antes de calcularmos os intervalos de confiança, o autor afirma que, como não conhecemos , faremos a estimativa de que , ou mais precisamente, para uma estimativa imparcial , e podemos prosseguir a partir daí usando técnicas padrão.$\sigma^2$$\sigma^2 \approx \hat{\sigma}^2$$\sigma^2 \approx \frac{n}{n-1}\hat{\sigma}^2$

Agora, enquanto o autor menciona a importância de suficientemente grande ( número de empates por simulação), não há menção sobre o número de simulações e seus efeitos sobre a nossa confiança.$n$

Existe alguma vantagem em executar simulações (executando draws de cada vez) para obter vários meios de amostra e use os meios para melhorar nossas estimativas e confiança em relação ao desconhecido de ?$k$$n$$\hat{\mu}_{n,1}, \hat{\mu}_{n,2}, \dots \hat{\mu}_{n,k}$$\mu,\sigma$$X$

Ou basta desenhar amostras de em uma única simulação, desde que seja suficientemente grande?$n$$X$$n$

Desde que sejam evitados problemas relacionados à geração de números pseudo-aleatórios (ver nota no final), as duas abordagens ( simulações com empates vs. simulação única com suficientemente grande ) são equivalentes em relação à estimativa da média . Em relação à memória, observe que, no caso de simulações, é necessário armazenar os meios de amostra antes de executar o média final, embora isso não ocorra no cenário de simulação única. Nos computadores modernos, executar uma única simulação com suficientemente grande não deve ser mais difícil do que o descrito anteriormente e, de fato, economizar tempo.$k$$n$$n$$k$$\hat{\mu}_{n,1}, \dots, \hat{\mu}_{n,k}$$n$

A razão matemática além da equivalência é linearidade. Para ser mais preciso, no cenário de simulações , você calcula a média da amostra "final" seguinte forma onde indica o sorteio numerado na simulação . Essa ordenação é arbitrária se nada de estranho acontecer; portanto, você pode re-rotular cada com um novo índice, digamos , obtendo $k$$\hat{\mu}$ X ( h ) i iHX ( h ) i m=1,...,nk μ =

$$\hat{\mu} = \frac{1}{k} \sum_{h=1}^k \hat{\mu}_{n,h} = \frac{1}{k} \sum_{h=1}^k \frac{1}{n} \sum_{i=1}^n X^{(h)}_i = \frac{1}{nk} \sum_{h=1}^k \sum_{i=1}^n X^{(h)}_i$$ $X_i^{(h)}$$i$$h$$X_i^{(h)}$$m=1,\dots,nk$n $$\hat{\mu} = \frac{1}{nk} \sum_{m=1}^{nk} X_m$$ Mas isso é equivalente a executar uma única simulação com draws (obviamente, os draws devem ser iid, como já foi observado).$nk$

Nota: Problemas potenciais com PRNGs são descritos na página da Wikipedia .