Razão de verossimilhança para distribuição exponencial de duas amostras

Sejam e duas variáveis aleatórias independentes com os respectivos PDFs: $X$ $Y$

f (x; θ_{i}) = {\begin{cases} \frac{1}{θ_{i}} e^{- x / θ_{i}} 0 < x < \infty, 0 < θ_{i} < \infty \\ 0 elsewhere \end{cases}

$f \left(x;\theta_i \right) =\begin{cases} \frac{1}{\theta_i} e^{-x/ {\theta_i}} \quad 0<x<\infty, 0<\theta_i< \infty \\ 0 \quad \text{elsewhere} \end{cases}$

para . Duas amostras independentes são coletadas para testar contra dos tamanhos e dessas distribuições. Eu preciso mostrar que o LRT pode ser escrito como uma função de uma estatística com distribuição , em . $i=1,2$ $H_0: \theta_1 =\theta_2$ $H_1 : \theta_1 \neq \theta_2$ $n_1$ $n_2$ $\Lambda$ $F$ $H_0$

Como a distribuição dessa distribuição é , a estatística LRT se torna (estou ignorando algumas etapas tediosas aqui): $\hat{\theta}=\bar{x}$

Λ = \frac{{\bar{x}}^{n_{1}} {\bar{y}}^{n_{2}} (n_{1} + n_{2})}{n_{1} \bar{x} + n_{2} \bar{y}}

$\Lambda =\frac{\bar{x}^{n_1} \bar{y}^{n_2} \left( n_1+n_2 \right)}{n_1 \bar{x}+n_2 \bar{y}}$

Eu sei que a distribuição é definida como o quociente de duas variáveis aleatórias qui-quadrado independentes, cada uma sobre seus respectivos graus de liberdade. Além disso, como sob o valor nulo, então e . $F$ $X_i,Y_i \sim \Gamma \left( 1,\theta_1 \right)$ $\sum X_i \sim \Gamma \left(n_1 ,\theta_1 \right)$ $\sum Y_i \sim \Gamma \left(n_2, \theta_1 \right)$

Mas como posso proceder a partir daqui? Alguma dica?

Obrigado.

distributions self-study likelihood-ratio JohnK
fonte

Dica: Uma variável aleatória exponencial está linearmente relacionada a uma variável aleatória com dois graus de liberdade e, portanto, uma variável aleatória com parâmetro de ordem está linearmente relacionada a uma variável aleatória com graus de liberdade .

χ^{2}

$\chi^2$

Γ

$\Gamma$

n

$n$

χ^{2}

$\chi^2$

2 n

$2n$

precisa saber é o seguinte

@DilipSarwate Vejo que . Devo continuar e tentar reformular minha fração de acordo com isso?

Z = \frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$Z= \frac {2}{\theta_1} \sum X_i \sim \chi^2 \left(2n_1 \right)$

JohnK

Talvez você não precise pular as poucas etapas tediosas e realmente derivar a razão de probabilidade do zero, em vez de pular para os estimadores de probabilidade máxima . Este é um problema no teste de hipóteses e não na estimativa de probabilidade máxima de um parâmetro

θ_{i}

$\theta_i$ .

precisa saber é o seguinte

@DilipSarwate Você entendeu mal. Eu tenho essas etapas intermediárias escritas, mas não as apresentamos aqui. É isso que você obtém após a simplificação.

JohnK

Talvez você possa começar explicando para mim (a não-estatístico, a propósito) o que significa o T no LRT.

usar o seguinte código

Respostas:

Se a memória servir, parece que você esqueceu algo em sua estatística LR.

A função de probabilidade sob o nulo é

L_{H_{0}} = θ^{- n_{1} - n_{2}} \cdot \exp {- θ^{- 1} (\sum x_{i} + \sum y_{i})}

$L_{H_0} = \theta^{-n_1-n_2}\cdot \exp\left\{-\theta^{-1}\left(\sum x_i+\sum y_i\right)\right\}$

e o MLE é

{\hat{θ}}_{0} = \frac{\sum x_{i} + \sum y_{i}}{n_{1} + n_{2}} = w_{1} \bar{x} + w_{2} \bar{y}, w_{1} = \frac{n_{1}}{n_{1} + n_{2}}, w_{2} = \frac{n_{2}}{n_{1} + n_{2}}

$\hat \theta_0 = \frac {\sum x_i+\sum y_i}{n_1+n_2} = w_1\bar x +w_2 \bar y, \;\; w_1=\frac {n_1}{n_1+n_2},\;w_2=\frac {n_2}{n_1+n_2}$

Então,

L_{H_{0}} ({\hat{θ}}_{0}) = ({\hat{θ}}_{0})^{- n_{1} - n_{2}} \cdot e^{- n_{1} - n_{2}}

$L_{H_0}(\hat \theta_0) = (\hat \theta_0)^{-n_1-n_2}\cdot e^{-n_1-n_2}$

Sob a alternativa, a probabilidade é

L_{H_{1}} = θ_{1}^{- n_{1}} \cdot \exp {- θ_{1}^{- 1} (\sum x_{i})} \cdot θ_{2}^{- n_{2}} \cdot \exp {- θ_{2}^{- 1} (\sum y_{i})}

$L_{H_1} = \theta_1^{-n_1}\cdot \exp\left\{-\theta_1^{-1}\left(\sum x_i\right)\right\}\cdot \theta_2^{-n_2}\cdot \exp\left\{-\theta_2^{-1}\left(\sum y_i\right)\right\}$

e os MLE são

{\hat{θ}}_{1} = \frac{\sum x_{i}}{n_{1}} = \bar{x}, {\hat{θ}}_{2} = \frac{\sum y_{i}}{n_{2}} = \bar{y}

$\hat \theta_1 = \frac {\sum x_i}{n_1} = \bar x, \qquad \hat \theta_2 = \frac {\sum y_i}{n_2} = \bar y$

Então,

L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2}) = ({\hat{θ}}_{1})^{- n_{1}} ({\hat{θ}}_{2})^{- n_{2}} \cdot e^{- n_{1} - n_{2}}

$L_{H_1}(\hat \theta_1,\,\hat \theta_2) = (\hat \theta_1)^{-n_1}(\hat \theta_2)^{-n_2}\cdot e^{-n_1-n_2}$

Considere a proporção

\frac{L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2})}{L_{H_{0}} ({\hat{θ}}_{0})} = \frac{({\hat{θ}}_{0})^{n_{1} + n_{2}}}{({\hat{θ}}_{1})^{n_{1}} ({\hat{θ}}_{2})^{n_{2}}} = {(\frac{{\hat{θ}}_{0}}{{\hat{θ}}_{1}})}^{n_{1}} \cdot {(\frac{{\hat{θ}}_{0}}{{\hat{θ}}_{2}})}^{n_{2}}

$\frac {L_{H_1}(\hat \theta_1,\,\hat \theta_2)}{L_{H_0}(\hat \theta_0)} = \frac {(\hat \theta_0)^{n_1+n_2}}{(\hat \theta_1)^{n_1}(\hat \theta_2)^{n_2}}=\left(\frac {\hat \theta_0}{\hat \theta_1}\right)^{n_1} \cdot \left(\frac {\hat \theta_0}{\hat \theta_2}\right)^{n_2}$

= {(w_{1} + w_{2} \frac{\bar{y}}{\bar{x}})}^{n_{1}} \cdot {(w_{1} \frac{\bar{x}}{\bar{y}} + w_{2})}^{n_{2}}

$= \left(w_1 + w_2 \frac {\bar y}{\bar x}\right)^{n_1} \cdot \left(w_1\frac {\bar x}{\bar y} + w_2 \right)^{n_2}$

As médias da amostra são independentes - então acredito que agora você pode concluir isso.

Alecos Papadopoulos
fonte

Não é muito importante, mas acho que você deve definir o LRT como o inverso da fração que você usou, consulte stats.ox.ac.uk/~dlunn/b8_02/b8pdf_8.pdf .

JohnK

O recíproco foi utilizado porque ajuda nas manipulações algébricas. Quando esta parte é feita, apenas se toma o negativo das potências externas.

Alecos Papadopoulos

Bem. Para mostrar que a fração

segue uma distribuição F, basta escrevê-la como

\frac{\bar{X}}{\bar{Y}}

$\frac{\bar{X}}{\bar{Y}}$

, certo?

\frac{\frac{2 \sum X_{i}}{2 θ_{1} n_{1}}}{\frac{2 \sum Y_{i}}{2 θ_{1} n_{2}}}

$\frac{\frac{2\sum X_i}{2 \theta_1 n_1}}{\frac{2\sum Y_i}{2 \theta_1 n_2 }}$

JohnK

Se esse é um "link" correto entre gama e qui-quadrado, de fato.

Alecos Papadopoulos

Sim

E também temos que dividir pelos graus de liberdade,

. Muito obrigado.

\frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$\frac{2}{\theta_1} \sum X_i \sim \chi^2 \left( 2n_1 \right)$

2 n_{1}

$2n_1$

JohnK

A função de probabilidade dada à amostra $\mathbf x=(x_1,\ldots,x_{n_1},y_1,\ldots,y_{n_2})$ é dada por

\begin{aligned} L (θ_{1}, θ_{2}) & = \frac{1}{θ_{1}^{n_{1}} θ_{2}^{n_{2}}} \exp [- \frac{1}{θ_{1}} \sum_{i = 1}^{n_{1}} x_{i} - \frac{1}{θ_{2}} \sum_{i = 1}^{n_{2}} y_{i}] 1_{x > 0}, θ_{1}, θ_{2} > 0 \end{aligned}

$\begin{align} L(\theta_1,\theta_2)&=\frac{1}{\theta_1^{n_1}\theta_2^{n_2}}\exp\left[-\frac{1}{\theta_1}\sum_{i=1}^{n_1} x_i-\frac{1}{\theta_2}\sum_{i=1}^{n_2}y_i\right]\mathbf1_{\mathbf x>0}\quad,\,\theta_1,\theta_2>0 \end{align}$

O critério de teste LR para testar $H_0:\theta_1=\theta_2$ contra $H_1:\theta_1\ne \theta_2$ tem a forma

\begin{aligned} λ (x) & = \frac{sup_{θ_{1} = θ_{2}} L (θ_{1}, θ_{2})}{sup_{θ_{1}, θ_{2}} L (θ_{1}, θ_{2})} = \frac{L (\hat{θ}, \hat{θ})}{L ({\hat{θ}}_{1}, {\hat{θ}}_{2})} \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\frac{\sup\limits_{\theta_1=\theta_2}L(\theta_1,\theta_2)}{\sup\limits_{\theta_1,\theta_2}L(\theta_1,\theta_2)} =\frac{L(\hat\theta,\hat\theta)}{L(\hat\theta_1,\hat\theta_2)} \end{align}$

$\hat\theta$ $\theta_1=\theta_2$ $H_0$ $\hat\theta_i$ $\theta_i$ $i=1,2$

({\hat{θ}}_{1}, {\hat{θ}}_{2}) = (\bar{x}, \bar{y})

$(\hat\theta_1,\hat\theta_2)=(\bar x,\bar y)$

\hat{θ} = \frac{n_{1} \bar{x} + n_{2} \bar{y}}{n_{1} + n_{2}}

$\hat\theta=\frac{n_1\bar x+n_2\bar y}{n_1+n_2}$

Após algumas simplificações, obtemos essa simetria para o critério LRT:

\begin{aligned} λ (x) & = \underset{> 0}{\underset{⏟}{constant}} {(\frac{n_{1} \bar{x}}{n_{1} \bar{x} + n_{2} \bar{y}})}^{n_{1}} {(\frac{n_{2} \bar{y}}{n_{1} \bar{x} + n_{2} \bar{y}})}^{n_{2}} \\ = constant \cdot t^{n_{1}} (1 - t_{1})^{n_{2}}, where t = \frac{n_{1} \bar{x}}{n_{1} \bar{x} + n_{2} \bar{y}} \\ = g (t), say \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\underbrace{\text{constant}}_{>0}\left(\frac{n_1\bar x}{n_1\bar x+n_2\bar y}\right)^{n_1}\left(\frac{n_2\bar y}{n_1\bar x+n_2\bar y}\right)^{n_2} \\&=\text{constant}\cdot\,t^{n_1}(1-t_1)^{n_2}\qquad,\text{ where }t=\frac{n_1\bar x}{n_1\bar x+n_2\bar y} \\&=g(t)\quad,\,\text{say} \end{align}$

$g$

g^{'} (t) ≷ 0 ⟺ t ≶ \frac{n_{1}}{n_{1} + n_{2}}

$g'(t)\gtrless 0\iff t\lessgtr \frac{n_1}{n_1+n_2}$

$2n_1\overline X/\theta_1\sim \chi^2_{2n_1}$ $2n_2\overline Y/\theta_2\sim \chi^2_{2n_2}$

\frac{\bar{X}}{\bar{Y}} \overset{H_{0}}{\sim} F_{2 n_{1}, 2 n_{2}}

$\frac{\overline X}{\overline Y}\stackrel{H_0}{\sim}F_{2n_1,2n_2}$

v = \frac{n_{1} \bar{x}}{n_{2} \bar{y}}

$v=\frac{n_1\overline x}{n_2\overline y}$

t = \frac{v}{v + 1} ↑ v

$t=\frac{v}{v+1}\quad\uparrow\, v$

Portanto,

λ (x) < c ⟺ v < c_{1} or v > c_{2}

$\lambda(\mathbf x)<c \iff v<c_1\quad\text{ or }\quad v>c_2$

$c_1,c_2$ $H_0$

\frac{n_{2}}{n_{1}} v \sim F_{2 n_{1}, 2 n_{2}}

$\frac{n_2}{n_1}v\sim F_{2n_1,2n_2}$

Teimoso
fonte