Por que a eficiência relativa assintótica do teste de Wilcoxon

É sabido que a eficiência relativa assintótica (ARE) do teste de classificação assinado de Wilcoxon é $\frac{3}{\pi} \approx 0.955$ comparado aotestetde Student, se os dados forem obtidos de uma população normalmente distribuída. Isso vale tanto para o teste básico de uma amostra quanto para a variante de duas amostras independentes (o Wilcoxon-Mann-Whitney U). Também é o ARE de um teste de Kruskal-Wallis comparado a um teste ANOVAF, para dados normais.

Esse resultado notável (para mim, uma das " aparências mais inesperadas de $\pi$ ") e notavelmente simples tem uma prova perspicaz, notável ou simples?

nonparametric wilcoxon-mann-whitney asymptotics efficiency wilcoxon-signed-rank Silverfish
fonte

Dada a aparência de no cdf normal, o aparecimento de no ESTÃO não deve realmente ser tudo tão surpreendente. Vou arriscar uma resposta, mas levará um tempo para fazer uma boa.

π

$\pi$

π

$\pi$

Glen_b -Reinstala Monica

@Glen_b De fato - eu já vi uma discussão "por que aparece tanto nas estatísticas" antes (embora não me lembre se estava no CV ou não) e "por causa da distribuição normal" eu sei que surgem muito , mas ainda é uma surpresa agradável na primeira vez em que você o vê. Para comparação, o ARE de Mann-Whitney vs o teste t de duas amostras é 3 em dados exponenciais, 1,5 em exponencial duplo e 1 em uniforme - muito mais arredondado!

π

$\pi$

3 / π

$3/\pi$

Silverfish

@ Silververfish Liguei a página 197 da van der Vaart "Estatísticas Assintóticas". Para uma amostra, os testes de sinal têm ARE relação ao teste t.

2 / π

$2/\pi$

Khashaa

@ Silverfish ... e na logística é . Existem algumas das AREs conhecidas (em um ou dois casos de amostra) envolvendo e algumas que são razões simples de números inteiros.

(π / 3)^{2}

$(\pi/3)^2$

π

$\pi$

Glen_b -Reinstala Monica

Para um teste de classificação assinado de uma amostra, parece ser . Para teste de sinal de uma amostra, é . Então, esclarecemos nossa posição. Eu acho que é um bom sinal.

3 / π

$3/\pi$

2 / π

$2/\pi$

Khashaa

Respostas:

Breve esboço do ARE para o teste uma amostra , teste assinado e teste de classificação assinada $t$

Espero que a versão longa da resposta do @ Glen_b inclua análises detalhadas para o teste de classificação assinado de duas amostras, juntamente com a explicação intuitiva do ARE. Então, eu vou pular a maior parte da derivação. (caso de uma amostra, você pode encontrar os detalhes ausentes no TSH de Lehmann).

Problema de teste : Seja uma amostra aleatória do modelo de localização , simétrico em torno de zero. Devemos calcular ARE do teste assinado, teste de classificação assinado para a hipótese relação ao teste t. $X_1,\ldots,X_n$ $f(x-\theta)$ $H_0: \theta=0$

Para avaliar a eficiência relativa dos testes, apenas alternativas locais são consideradas porque testes consistentes têm poder tendendo a 1 contra alternativa fixa. Alternativas locais que dão origem a poder assintótico não trivial geralmente têm a forma para fixo , que é chamado de desvio de Pitman em alguma literatura. $\theta_n=h/\sqrt{n}$ $h$

Nossa tarefa a frente é

encontre a distribuição limite de cada estatística de teste sob o valor nulo
encontre a distribuição limite de cada estatística de teste sob a alternativa
calcular o poder assintótico local de cada teste

Estatística de teste e assintóticos

teste t (dada a existência de ) t n = √t n = √
$t_{n} = \sqrt{n} \frac{\bar{X}}{\hat{σ}} \to_{d} N (0, 1) under the null$

$t_{n} = \sqrt{n} \frac{\bar{X}}{\hat{σ}} \to_{d} N (h / σ, 1) under the alternative θ = h / \sqrt{n}$
- portanto, o teste que rejeita se possui a função de potência assintótica $t_n>z_\alpha$ $1 - Φ (z_{α} - h \frac{1}{σ})$ $1-\Phi\left(z_\alpha-h\frac{1}{\sigma}\right)$
teste assinado e possui poder assintótico local $S_n=\frac{1}{n}\sum_{i=1}^{n}1\{X_i>0\}$ $\sqrt{n} (S_{n} - \frac{1}{2}) \to_{d} N (0, \frac{1}{4}) under the null$ $\sqrt{n}\left(S_n-\frac{1}{2}\right)\to_dN\left(0,\frac{1}{4}\right)\quad \text{under the null }$ $\sqrt{n} (S_{n} - \frac{1}{2}) \to_{d} N (h f (0), \frac{1}{4}) under the alternative$ $\sqrt{n}\left(S_n-\frac{1}{2}\right)\to_dN\left(hf(0),\frac{1}{4}\right)\quad \text{under the alternative }$ $1 - Φ (z_{α} - 2 h f (0))$ $1-\Phi\left(z_\alpha-2hf(0)\right)$
teste de classificação assinada e possui poder assintótico local $W_{n} = n^{- 2 / 3} \sum_{i = 1}^{n} R_{i} 1 {X_{i} > 0} \to_{d} N (0, \frac{1}{3}) under the null$ $W_n=n^{-2/3}\sum_{i=1}^{n}R_i1\{X_i>0\}\to_dN\left(0,\frac{1}{3}\right)\quad \text{under the null }$ $W_{n} \to_{d} N (2 h \int f^{2}, \frac{1}{3}) under the alternative$ $W_n\to_dN\left(2h\int f^2,\frac{1}{3}\right)\quad \text{under the alternative }$ $1 - Φ (z_{α} - \sqrt{12} h \int f^{2})$ $1-\Phi\left(z_\alpha-\sqrt{12}h\int f^2\right)$

Portanto, Se for a densidade normal padrão, ,

UMA R E (S_{n}) = (2 f (0 0) σ)^{2}

$ARE(S_n)=(2f(0)\sigma)^2$

UMA R E (W_{n}) = (\sqrt{12} \int f^{2} σ)^{2}

$ARE(W_n)=(\sqrt{12}\int f^2\sigma)^2$

f

$f$

A R E (S_{n}) = 2 / π

$ARE(S_n)=2/\pi$

A R E (W_{n}) = 3 / π

$ARE(W_n)=3/\pi$

Se for uniforme em [-1,1], , $f$ $ARE(S_n)=1/3$ $ARE(W_n)=1/3$

Comentários sobre a derivação da distribuição sob a alternativa

É claro que existem muitas maneiras de derivar a distribuição limitadora sob a alternativa. Uma abordagem geral é usar o terceiro lema de Le Cam. Versão simplificada dos estados

Seja o log da razão de verossimilhança. Para algumas estatísticas , se sob o valor nulo e $\Delta_n$ $W_n$
$(W_{n}, Δ_{n}) \to_{d} N [(\begin{matrix} μ \\ - σ^{2} / 2 \end{matrix}), (\begin{array}{cc} σ_{W}^{2} & τ \\ τ & σ^{2} / 2 \end{array})]$ $(W_n,\Delta_n)\to_d N\left[\left(\begin{array}{c} \mu\\ -\sigma^2/2 \end{array}\right),\left(\begin{array}{cc} \sigma^2_W & \tau \\ \tau & \sigma^2/2 \end{array}\right)\right]\\$ $W_{n} \to_{d} N (μ + τ, σ_{W}^{2}) sob a alternativa$ $W_n\to_d N\left(\mu+\tau,\sigma^2_W\right)\quad\text{under the alternative}$

Para densidades diferenciáveis médias quadráticas, a normalidade e contiguidade assintótica local são automaticamente satisfeitas, o que implica lema de Le Cam. Usando esse lema, precisamos apenas calcular sob o valor nulo. obedece a LAN onde está função de pontuação, é matriz de informações. Então, por exemplo, para o teste assinado $\mathrm{cov}(W_n,\Delta_n)$ $\Delta_n$

Δ_{n} \approx \frac{h}{\sqrt{n}} \sum_{Eu = 1}^{n} eu (X_{Eu}) - \frac{1}{2} h^{2} {Eu}_{0 0}

$\Delta_n\approx \frac{h}{\sqrt{n}}\sum_{i=1}^{n}l(X_i)-\frac{1}{2}h^2I_0$

l

$l$

I_{0}

$I_0$

S_{n}

$S_n$

c o v (\sqrt{n} (S_{n} - 1 / 2), Δ_{n}) = - h c o v (1 {X_{Eu} > 0 0}, \frac{f^{'}}{f} (X_{Eu})) = h \int_{0 0}^{\infty} f^{'} = h f (0 0)

$\mathrm{cov}(\sqrt{n}(S_n-1/2),\Delta_n)=-h\mathrm{cov}\left(1\{X_i>0\},\frac{f'}{f}(X_i)\right)=h\int_0^\infty f'=hf(0)$

Khashaa
fonte

+1 Eu não iria entrar em tantos detalhes (de fato, com sua resposta já cobrindo as coisas muito bem, provavelmente não adicionarei nada ao que tenho agora). Portanto, se você quiser colocar mais detalhes, não Não esconda minha conta. Eu já passaria vários dias (e ainda por menos do que você já tem), por isso é uma coisa boa que você tenha entrado.

Glen_b -Reinstata Monica

Esta é uma boa resposta especialmente para adicionar o lema de Le Cam (+1). Parece-me que há um grande salto entre estabelecer os assintóticos em 1, 2 e 3, e a parte "portanto" em que você escreve as AREs. Eu acho que se eu estivesse escrevendo isso, eu definiria a eficiência assintótica neste momento (ou talvez antes, para que o resultado dos pontos 1, 2 e 3 sejam os EAs, não apenas os poderes assintóticos locais em cada caso) e, em seguida, a etapa para as AREs seria muito mais fácil para futuros leitores seguirem.

Silverfish 01/01

Talvez valha a pena especificar o seu ? Casos unilaterais e bilaterais têm poderes assintóticos de aparência diferente (embora levem às mesmas AREs).

H_{1}

$H_1$

Silverfish 01/01

Sinta-se à vontade para editar minha resposta ou anexá-la ao OP.

Khashaa

@Khashaa Thanks. Editarei sua postagem quando tiver as coisas certas à minha frente. Você se importaria de esclarecer o significado do na equação final?

*

$*$

Silverfish

Isso não tem nada a ver com explicar por que aparece (o que foi explicado muito bem por outros), mas pode ajudar intuitivamente. O teste de Wilcoxon é um teste nas fileiras de enquanto o teste paramétrico é computado nos dados brutos. A eficiência do teste de Wilcoxon em relação ao teste é o quadrado da correlação entre as pontuações utilizadas para os dois testes. Como a correlação ao quadrado converge para . Você pode ver isso empiricamente usando R: $\pi$ $t$ $Y$ $t$ $n\rightarrow \infty$ $\frac{\pi}{3}$

n <- 1000000; x <- qnorm((1:n)/(n+1)); cor(1:n, x)^2; 3/pi
[1] 0.9549402
[1] 0.9549297
n <- 100000000; x <- qnorm((1:n)/(n+1)); cor(1:n, x)^2; 3/pi
[1] 0.9549298
[1] 0.9549297

Frank Harrell
fonte

Este é realmente um comentário muito útil. É um pouco conceitualmente mais próximo de fazer n <- 1e6; x <- rnorm(n); cor(x, rank(x))^2(o que obviamente produz o mesmo resultado)?

Silverfish 01/01

(As pessoas intrigado com o comentário de Frank pode querer olhar para esta questão sobre a equivalência de Wilcoxon-Mann-Whitney U e uma t -teste nas fileiras .)

Silverfish

n

$n$

n

$n$

n

$n$

Para minha lembrança, a pequena eficiência da amostra, tanto no teste de posto assinado de Wilcoxon quanto no WMW, é um pouco menor que o valor assintótico nas alternativas de turno na distribuição normal.

Glen_b -Reinstar Monica

$12\sigma^2[\int f^2(x) dx]^2$ $f$ $\sigma$

$f^2$ $f$ $\frac{1}{\sqrt{\pi}}$ $\frac{ \;}{\pi}$

O mesmo termo - com a mesma integral - está envolvido no ARE para o teste de classificação assinado, portanto, assume o mesmo valor.

$4\sigma^2f(0)^2$ $f(0)^2$ $\frac{ \;}{\pi}$

$\pi$

Referência:

JL Hodges e EL Lehmann (1956),
"A eficiência de alguns concorrentes não paramétricos do teste t",
Ann. Matemática. Statist. , 27 : 2, 324-335.

Glen_b -Reinstate Monica
fonte

π

$\pi$

\int f^{2} d x

$\int f^2 dx$

α = 2

$\alpha=2$