Que distribuição segue o CDF normal inverso de uma variável aleatória beta?

14

Suponha que você defina:

X \sim Beta (α, β)

$X\sim\mbox{Beta}(\alpha,\beta)$

Y \sim Φ^{- 1} (X)

$Y\sim \Phi^{-1}(X)$

onde é o inverso do CDF da distribuição normal padrão . $\Phi^{-1}$

Minha pergunta é: Existe uma distribuição simples que segue ou que pode se aproximar de ? $Y$ $Y$ Estou perguntando, porque tenho uma forte suspeita, com base nos resultados da simulação (mostrada abaixo), de que converge para uma distribuição normal quando e são altos, mas não sei por que matematicamente. (É claro que quando , seria uniforme e seria o padrão normal, mas por que isso seria verdadeiro para valores mais altos?). $Y$ $\alpha$ $\beta$ $\alpha=1;\beta=1$ $X$ $Y$

Se isso convergir para um normal, quais seriam os parâmetros desse normal em termos de e ? (Espero que a média seja pois essa é a transformação do modo, mas não sei o desvio padrão). $\alpha$ $\beta$ $\Phi^{-1}(\frac{\alpha}{\alpha+\beta})$

(Dito de outra forma, isso poderia ser perguntado " converge para uma distribuição beta, para alguma direção de e "? Não tenho certeza se é mais fácil responder). $\Phi(\mbox{Norm}(\mu, \sigma))$ $\mu$ $\sigma$

Resultados simulados

Aqui, mostro por que tenho a suspeita de que o resultado é normal (já que não posso fazer backup com matemática). A simulação de pode ser feita em R com e . Por exemplo, escolhendo os parâmetros altos e : $Y$ qnormrnorm $\alpha=3000$ $\beta=7000$

hist(qnorm(rbeta(5000, 3000, 7000)))

Isso parece normal, e qqnormo teste de Shapiro-Wilk (em que normalidade é a hipótese nula) também sugere:

qqnorm(qnorm(rbeta(5000, 3000, 7000)))

shapiro.test(qnorm(rbeta(5000, 3000, 7000)))
#> 
#>  Shapiro-Wilk normality test
#> 
#> data:  qnorm(rbeta(5000, 3000, 7000))
#> W = 0.99954, p-value = 0.2838

Para explorar um pouco mais a normalidade, realizo 2.000 simulações, simulando 5.000 valores de cada vez , em seguida, realizando o teste para compará-lo ao normal. (Escolhi valores de 5K porque esse é o máximo que pode suportar e maximiza o poder de detectar desvios da norma). $Y$ shapiro.test

Se a distribuição realmente fosse normal, esperaríamos que os valores de p fossem uniformes (já que o nulo é verdadeiro). Eles são realmente quase uniformes, sugerindo que a distribuição está muito próxima do normal:

hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 3000, 7000)))$p.value))

Algumas experiências mostram que quanto mais altos são e , mais perto a distribuição fica normal (por exemplo, está muito longe do normal, mas tente e parece estar em algum lugar no meio). $\alpha$ $\beta$ rbeta(5000, 3, 7)hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 30, 70)))$p.value))

r normal-distribution mathematical-statistics beta-distribution David Robinson
fonte

2

Nada de interessante acontece aqui. À medida que

e aumentam, vamos supor que eles permaneçam na mesma proporção, ou pelo menos que permaneça longe de e . Em seguida, a distribuição Beta torna-se Normal e concentrada em um intervalo arbitrariamente estreito. , sendo diferenciável, torna-se essencialmente linear, de onde você está apenas olhando para uma transformação linear de uma variável quase normal. Este resultado não tem nada a ver com e não adiciona informações sobre distribuições Beta.

α

$\alpha$

β

$\beta$

α / (α + β)

$\alpha/(\alpha+\beta)$

0

$0$

1

$1$

(α, β)

$(\alpha,\beta)$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$

whuber

1

@whuber Isso faz sentido para e (eu tive algumas simulações que me fizeram pensar que isso era mais próximo do normal do que o equivalente normal aproximado ao beta, mas, ao executar novamente, acho que houve um erro na época). Quaisquer pensamentos sobre ; ? Dist está muito longe do normal, mas o qnorm está bem próximo.

α

$\alpha$

β

$\beta$

α = 2

$\alpha=2$

β = 2

$\beta=2$

David Robinson

1

@ whuber Por exemplo hist(replicate(1000, shapiro.test(rbeta(5000, 2, 2))$p.value)), tente , então hist(replicate(1000, shapiro.test(qnorm(rbeta(5000, 2, 2)))$p.value)). Em outras palavras, quando é normal porque o beta é uniforme, quando

e

são altos é porque o beta é aproximadamente normal - mas por que funciona quando são iguais e intermediários, onde não é normal nem uniforme?

α = β = 1

$\alpha=\beta=1$

α

$\alpha$

β

$\beta$

David Robinson

5

Isso é definitivamente mais interessante! Você está certo de que Beta não está muito próximo de Normal, mas que a transformação é aproximadamente Normal, mesmo para pequenos parâmetros de Beta. Os desvios da normalidade tornam-se aparentes nas caudas, em torno de

ou superior, mas são notavelmente pequenos em todo o corpo da distribuição. Em última análise, isso é rastreável ao comportamento da lei de poder das caudas Beta.

Z = \pm 3

$Z=\pm 3$

whuber

7

Sinopse

Você redescobriu parte da construção descrita no Teorema do Limite Central para Medianas da Amostra , que ilustra uma análise da mediana de uma amostra. (A análise obviamente se aplica, mutatis mutandis , a qualquer quantil, não apenas à mediana). Portanto, não é surpresa que, para grandes parâmetros Beta (correspondendo a grandes amostras), uma distribuição Normal ocorra sob a transformação descrita na pergunta. O que interessa é o quão perto de Normal é a distribuição, mesmo para pequenos parâmetros Beta. Isso merece uma explicação.

Vou esboçar uma análise abaixo. Para manter este post em um comprimento razoável, ele envolve muitas sugestões sugestivas: eu pretendo apenas apontar as idéias principais. Permitam-me, portanto, resumir os resultados aqui:

Quando está próximo de , tudo é simétrico. Isso faz com que a distribuição transformada já pareça normal. $\alpha$ $\beta$
As funções da forma parecem razoavelmente normais em primeiro lugar, mesmo para pequenos valores de e (desde que excedam e sua razão não seja muito alta). próximo a ou ). $\Phi^{\alpha-1}(x)\left(1-\Phi(x)\right)^{\beta-1}$ $\alpha$ $\beta$ $1$ $0$ $1$
A normalidade aparente da distribuição transformada se deve ao fato de que sua densidade consiste em uma densidade normal multiplicada por uma função em (2).
À medida que e aumentam, a saída da Normalidade pode ser medida nos termos restantes de uma série de Taylor para a densidade do log. O termo da ordem diminui proporcionalmente às potências de e . Isso implica que, eventualmente, para e suficientemente grandes , todos os termos de potência ou mais se tornaram relativamente pequenos, deixando apenas um quadrático: que é precisamente a densidade logarítmica de uma distribuição Normal. $\alpha$ $\beta$ $n$ $(n-2)/2$ $\alpha$ $\beta$ $\alpha$ $\beta$ $n=3$

Coletivamente, esses comportamentos explicam bem por que, mesmo para pequenos e os quantis não extremos de uma amostra normal de iid parecem aproximadamente normais. $\alpha$ $\beta$

Análise

Porque ele pode ser útil para generalizar, vamos ser qualquer função de distribuição, embora tenhamos em mente . $F$ $F=\Phi$

A função de densidade de uma variável Beta é, por definição, proporcional a $g(y)$ $(\alpha,\beta)$

y^{α - 1} (1 - y)^{β - 1} d y .

$y^{\alpha-1}(1-y)^{\beta-1}dy.$

Sendo a transformação integral de probabilidade de e escrevendo para a derivada de , é imediato que tenha uma densidade proporcional a $y=F(x)$ $x$ $f$ $F$ $x$

G (x; α, β) = F (x)^{α - 1} (1 - F (x))^{β - 1} f (x) d x .

$G(x;\alpha,\beta)=F(x)^{\alpha-1}(1-F(x))^{\beta-1}f(x)dx.$

Como essa é uma transformação monotônica de uma distribuição fortemente unimodal (a Beta), a menos que seja bastante estranho, a distribuição transformada também será unimodal. Para estudar o quão perto de Normal pode ser, vamos examinar o logaritmo de sua densidade, $F$

\begin{matrix} (1) & \log G (x; α, β) = (α - 1) \log F (x) + (β - 1) \log (1 - F (x)) + \log f (x) + C \end{matrix}

$\log G(x;\alpha,\beta) = (\alpha-1)\log F(x) + (\beta-1)\log(1-F(x)) + \log f(x) + C\tag{1}$

onde é uma constante irrelevante de normalização. $C$

Expanda os componentes do na série Taylor para ordenar três em torno de um valor (que estará próximo a um modo). Por exemplo, podemos escrever a expansão do como $\log G(x;\alpha,\beta)$ $x_0$ $\log F$

\log F (x) = c_{0}^{F} + c_{1}^{F} (x - x_{0}) + c_{2}^{F} (x - x_{0})^{2} + c_{3}^{F} h^{3}

$\log F(x) = c^{F}_0 + c^{F}_1 (x-x_0) + c^{F}_2(x-x_0)^2 + c^{F}_3h^3$

por algum com . Use uma notação semelhante para e . $h$ $|h| \le |x-x_0|$ $\log(1-F)$ $\log f$

Termos lineares

O termo linear em torna-se assim $(1)$

g_{1} (α, β) = (α - 1) c_{1}^{F} + (β - 1) c_{1}^{1 - F} + c_{1}^{f} .

$g_1(\alpha,\beta) = (\alpha-1)c^{F}_1 + (\beta-1)c^{1-F}_1 + c^{f}_1.$

Quando é um modo de $x_0$ , esta expressão é zero. Observe que, como os coeficientes são funções contínuas de , como e são variados, o modo também varia continuamente. Além disso, uma vez que e sejam suficientemente grandes, otermo se torna relativamente inconseqüente. Se pretendemos estudar o limite como e para o qual permanece em proporção constante $G(\,;\alpha,\beta)$ $x_0$ $\alpha$ $\beta$ $x_0$ $\alpha$ $\beta$ $c^{f}_1$ $\alpha\to\infty$ $\beta\to\infty$ $\alpha:\beta$ $\gamma$ , portanto, podemos escolher de uma vez por todas um ponto base para o qual $x_0$

γ c_{1}^{F} + c_{1}^{1 - F} = 0.

$\gamma c^{F}_1 + c^{1-F}_1 = 0.$

Um bom caso é onde , onde toda parte, e é simétrico em torno de . Nesse caso, é óbvio . $\gamma=1$ $\alpha=\beta$ $F$ $0$ $x_0=F(0)=1/2$

Conseguimos um método pelo qual (a) no limite, o termo de primeira ordem na série Taylor desaparece e (b) no caso especial que acabamos de descrever, o termo de primeira ordem é sempre zero.

Termos quadráticos

Estes são a soma

g_{2} (α, β) = (α - 1) c_{2}^{F} + (β - 1) c_{2}^{1 - F} + c_{2}^{f} .

$g_2(\alpha,\beta) = (\alpha-1)c^{F}_2 + (\beta-1)c^{1-F}_2 + c^{f}_2.$

Comparando-se a uma distribuição normal, cujo termo quadrático é , podemos estimar que é aproximadamente a variância de . Vamos padronizar redimensionando por sua raiz quadrada. nós realmente não precisamos dos detalhes; basta entender que esse reescalonamento vai multiplicar o coeficiente de $-(1/2)(x-x_0)^2/\sigma^2$ $-1/(2g_2(\alpha,\beta))$ $G$ $G$ $x$ na expansão de Taylor por $(x-x_0)^n$ $(-1/(2g_2(\alpha,\beta)))^{n/2}.$

Termo restante

Aqui está a piada: o termo de ordem na expansão de Taylor é, de acordo com nossa notação, $n$

g_{n} (α, β) = (α - 1) c_{n}^{F} + (β - 1) c_{n}^{1 - F} + c_{n}^{f} .

$g_n(\alpha,\beta) = (\alpha-1)c^{F}_n + (\beta-1)c^{1-F}_n + c^{f}_n.$

Após a padronização, torna-se

g_{n}^{'} (α, β) = \frac{g_{n} (α, β)}{(- 2 g_{2} (α, β))^{n / 2})} .

$g_n^\prime(\alpha,\beta) = \frac{g_n(\alpha,\beta)}{(-2g_2(\alpha,\beta))^{n/2})}.$

Ambos o são combinação afim de e . Ao elevar o denominador à potência , o comportamento líquido é da ordem em cada um de e . À medida que esses parâmetros aumentam, cada termo na expansão de Taylor após o segundo diminui para zero assintoticamente. Em particular, o termo restante de terceira ordem se torna arbitrariamente pequeno. $g_i$ $\alpha$ $\beta$ $n/2$ $-(n-2)/2$ $\alpha$ $\beta$

O caso em que é normal $F$

O desaparecimento do termo restante é particularmente rápido quando é Normal normal, porque neste caso é puramente quadrático: não contribui em nada para os termos restantes. Consequentemente, o desvio de da normalidade depende unicamente do desvio entre e a normalidade. $F$ $f(x)$ $G$ $F^{\alpha-1}(1-F)^{\beta-1}$

Esse desvio é bastante pequeno, mesmo para pequenos e . Para ilustrar, considere o caso . é simétrico, de onde o termo de ordem 3 desaparece completamente. O restante é da ordem em . $\alpha$ $\beta$ $\alpha=\beta$ $G$ $4$ $x-x_0=x$

Aqui está um gráfico que mostra como o termo padronizado de quarta ordem muda com pequenos valores de : $\alpha \gt 1$

O valor começa em para , porque a distribuição obviamente é Normal ( aplicada a uma distribuição uniforme, que é Beta , fornece uma distribuição normal padrão). Embora aumente rapidamente, ela atinge menos de que é praticamente indistinguível de zero. Depois disso, o decaimento recíproco assintótico entra em ação, tornando a distribuição cada vez mais próxima do Normal à medida que aumenta além de . $0$ $\alpha=\beta=1$ $\Phi^{-1}$ $(1,1)$ $0.008$ $\alpha$ $2$

whuber
fonte

2

Convergência

Suponha que e deixe e tome qualquer pequeno . Então . Pela desigualdade de Chebyshev, temos e . Isso significa que converge em probabilidade ( ~~não em distribuição~~ $\alpha = \beta$ $\alpha \to \infty$ $\varepsilon > 0$ $var(X) \to 0$ $\mathbb{P} [\vert X - 0.5 \vert > \varepsilon] \to 0$ $\mathbb{P} [\vert Y \vert > \varepsilon] \to 0$ $Y$ na verdade, converge em distribuição - para singleton).

Distribuição exata

$f_X$ $Y$

f_{Y} (y) = f_{X} (Φ (y)) ϕ (y) .

$f_Y (y) = f_X ( \Phi (y) ) \phi (y).$

Φ

$\Phi$ FullSimplify

Aqui está a densidade em R para que você possa plotá-la em vez do histograma.

f_y <- function(x, alpha, beta) {
  dbeta(pnorm(x), alpha, beta) * dnorm(x)
}

Modificação

Z = Φ^{- 1} (\sqrt{α} X)

$Z = \Phi^{-1} (\sqrt{\alpha} X)$

α = β

$\alpha = \beta$

v a r (\sqrt{α} X) \to 1 / 8

$var(\sqrt{\alpha} X) \to 1/8$

Jan Kislinger
fonte

1

$k \in \mathbb N$ $k \geq 2$ $X \sim \text{Beta}(k,k)$ $Y = \Phi^{-1}(X)$

$n=2k-1$ $n$ $U_1, \dotsc, U_n$ $U_{(1)} \leq \dotsc \leq U_{(n)}$

$U_{(k)} \sim \text{Beta}(k, n+1-k)$

U_{(k)} \sim Beta (k, k)

$U_{(k)} \sim \text{Beta}(k, k)$

$n$ $\text{Beta}(k,k)$

$Z_i = \Phi^{-1}(U_i)$ $Z_i$ $Z_i$ $Z_{(1)} \leq \dotsc \leq Z_{(n)}$ $\Phi^{-1}$

Φ^{- 1} (U_{(k)}) = Z_{(k)}

$\Phi^{-1}(U_{(k)}) = Z_{(k)}$

$Y$ $n$

$k$ $k$ $k=2$

$a \neq b$

ar
fonte

Que distribuição segue o CDF normal inverso de uma variável aleatória beta?

Resultados simulados

Respostas:

Sinopse

Análise

Termos lineares

Termos quadráticos

Termo restante

O caso em que é normalFFF

Convergência

Distribuição exata

Modificação

O caso em que é normal $F$