Distribuição do coeficiente de regressão recíproco

Suponha que tenhamos um modelo linear que atenda a todas as premissas de regressão padrão (Gauss-Markov). Estamos interessados em . $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ $\theta = 1/\beta_1$

Pergunta 1: Quais suposições são necessárias para que a distribuição de $\hat{\theta}$ seja bem definida? $\beta_1 \neq 0$ seria importante --- outros?

Pergunta 2: adicione a suposição de que os erros seguem uma distribuição normal. Sabemos que, se $\hat{\beta}_1$ é o MLE $g(\cdot)$ é uma função monotônica, então $g\left(\hat{\beta}_1\right)$ é o MLE de $g(\beta_1)$ . A monotonicidade é necessária apenas na vizinhança de $\beta_1$ ? Em outras palavras, $\hat{\theta} = 1/\hat{\beta}$ o MLE? O teorema do mapeamento contínuo pelo menos nos diz que esse parâmetro é consistente.

Pergunta 3: O método Delta e o bootstrap são os meios apropriados para encontrar a distribuição de $\hat{\theta}$ ?

Pergunta 4: Como essas respostas são alteradas para o parâmetro $\gamma = \beta_0 / \beta_1$ ?

Além disso: podemos considerar reorganizar o problema para fornecer

\begin{aligned} x_{i} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} y_{i} + \frac{1}{β_{1}} ϵ_{i} \\ = γ + θ y_{i} + \frac{1}{β_{1}} ϵ_{i} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$ para estimar os parâmetros diretamente. Isso não parece funcionar para mim, pois as suposições de Gauss-Markov não fazem mais sentido aqui; não podemos falar sobre

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$ , por exemplo. Esta interpretação está correta?

regression distributions maximum-likelihood bootstrap Charlie
fonte

As suposições "padrão" incluem a Normalidade do ou não?

ϵ_{i}

$\epsilon_i$

whuber

Bom ponto; Eu adicionei essa suposição à parte sobre o MLE. Porém, não deveria ser necessário para os outros.

Charlie

A distribuição amostral de é normal, e a de é recíproca de um normal. Isso é bimodal com uma média divergente (infinita), não importa qual seja a média de , e é infinitamente plana em 0. O método Delta será, portanto, horrível, as aproximações assintóticas comuns do MLE serão ruins e até o bootstrap pode ser suspeito.

β_{1}

$\beta_1$

θ

$\theta$

β_{1}

$\beta_1$

whuber

@whuber, você poderia expandir isso? Minha intuição não vê como o recíproco de um normal deve ser bimodal; meu palpite seria que toda a massa estaria no recíproco da média do normal (aqui, ). Eu estava preocupado com a possibilidade média infinita por causa da massa próxima a 0. Os resultados de bootstrap e assintóticos exigem a existência dos momentos que estão sendo estimados, de modo que é, em última análise, o que esta questão depende.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$

Charlie

O PDF de uma normal recíproca é . Em 0 todas as derivadas são iguais a 0; encontrar pontos críticos de seu logaritmo identifica um modo positivo e negativo (facilmente calculado em termos de e ); a integral dediverge como a integral de. O problema com os primeiros momentos infinitos atribui-se ao recíproco de qualquer variável aleatória com densidade de probabilidade positiva em 0, que inclui todas as normais.

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$

σ

$\sigma$

μ / σ

$\mu/\sigma$

| x |

$|x|$

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$

whuber

Q1 Se for o MLE de , é o MLE de e é uma condição suficiente para que esse estimador seja bem definido. $\hat\beta_1$ $\beta_1$ $\hat\theta$ $\theta$ $\beta_1 \neq 0$

Q2 é o MLE de por propriedade de invariância do MLE. Além disso, você não precisa da monotonicidade de se não precisar obter sua inversa. Só é necessário que seja bem definido em cada ponto. Você pode verificar isso no Teorema 7.2.1 pp. 350 de "Probabilidade e inferência estatística", de Nitis Mukhopadhyay. $\hat\theta = 1/\hat\beta$ $\theta$ $g$ $g$

Q3 Sim, você pode usar os dois métodos, eu também verificaria a probabilidade de perfil de . $\theta$

Q4. Aqui, você pode remeterar o modelo em termos de parâmetros de interesse . Por exemplo, o MLE de é e é possível calcular a probabilidade de perfil desse parâmetro ou sua distribuição de inicialização como de costume. $(\theta,\gamma)$ $\gamma$ $\hat\gamma=\hat\beta_0/\hat\beta_1$

A abordagem mencionada no final está incorreta; na verdade, você está considerando um "modelo de calibração" que pode ser verificado na literatura. A única coisa que você precisa é reparameterizar em termos dos parâmetros de interesse.

Eu espero que isso ajude.

Atenciosamente.

XMX
fonte

Obrigado pela resposta. Não tenho o livro que você cita, mas muitas vezes essas propriedades exigem a existência dos momentos estimados. Não tenho certeza de que o recíproco de um normal tenha os momentos necessários. Eu deveria ter deixado esse ponto mais claro na minha pergunta.

Charlie

Distribuição do coeficiente de regressão recíproco

Respostas: