Regressão linear com ruído de tiro

Estou procurando a terminologia estatística correta para descrever o seguinte problema.

Eu quero caracterizar um dispositivo eletrônico que tenha uma resposta linear

$Y = \beta_0 + \beta_1 X + \epsilon$

onde é um termo devido ao ruído de leitura do dispositivo. Para determinar eu media uma série de respostas e aplicava a caixa de ferramentas de regressão linear padrão. Mas não sei exatamente o que são os , porque uso uma fonte que é afetada pelo ruído da tomada. Ou seja, eu sei que se eu definir o dial na fonte para um determinado valor então (um gaussiano com e variância ) médios . $\epsilon \sim N(0,\sigma^2_{ro})$ $\beta_0, \beta_1, \sigma^2_{ro}$ $\{X_i,Y_i\}$ $X_i$ $J_i$ $X_i \sim N(\mu, \mu)$ $\mu$ $\mu$

Parece um modelo de erro nas variáveis de regressão linear ( http://en.wikipedia.org/wiki/Errors-in-variables_models ), onde não é o fato de que, para caracterizar meu dispositivo em todo o seu intervalo de entrada , durante as medições, tenho que alterar o valor de , e agora a variação do não é fixa, mas depende de (através de J_i), embora, devido ao ruído do tiro, se isso não significa que o a variação de é a mesma que a variação de . $J_i$ $X_i$ $X_i$ $X_i=X_j$ $X_i$ $X_j$

Como é chamado esse modelo e existem artigos em que posso descobrir que esse problema é abordado? Ou estou formulando da maneira errada?

regression maximum-likelihood heteroscedasticity errors-in-variables GVstats
fonte

Var (Xi) = μ = E (Xi)> 0. Se isso fosse corrigido, isso seria um erro no modelo de variáveis com razão de variância σ / μ. Não é porque μ muda com o Xi. Já vi modelos com variação não constante em Y e modelos com erros em variáveis, mas não esse tipo de modelo que apresenta erros em variáveis com variação não constante. Quando a variação em Y não é constante, às vezes é possível modelar a variação em função do valor da covariável x. Talvez algo como isso poderia ser feito para o erro em X.

^{2}

$^2$

_{r} o

$_ro$

Michael R. Chernick

Respostas:

O modelo de probabilidade para esse ruído de tiro é

X \sim Poisson (μ), Y | X \sim Normal (β_{0} + β_{1} X, σ^{2}) .

$X \sim \text{Poisson}(\mu),\quad Y|X \sim \text{Normal}(\beta_0+\beta_1 X, \sigma^2).$

Uma boa estimativa de é a média de e uma boa estimativa de é fornecida por mínimos quadrados comuns, porque os valores de são assumidos independentes, distribuídos de forma idêntica e normais. $\mu$ $X$ $(\beta_0, \beta_1)$ $Y$

A estimativa de dado por OLS é inapropriado aqui, porém, devido à aleatoriedade dos . A estimativa de probabilidade máxima é $\sigma^2$ $X$

s^{2} = \frac{S_{x y}^{2} - 2 S_{x} S_{y} S_{x y} + S_{x x} (S_{y}^{2} - S_{y y}) + S_{x}^{2} S_{y y}}{S_{x}^{2} - S_{x x}} .

$s^2 = \frac{S_{xy}^2 - 2 S_x S_y S_{xy} + S_{xx}\left(S_y^2 - S_{yy}\right) + S_x^2 S_{yy}}{S_x^2 - S_{xx}}.$

Nesta notação, é o valor médio , é a média dos produtos dos valores e , etc. $S_x$ $X$ $S_{xy}$ $X$ $Y$

Podemos esperar que os erros padrão de estimativa nas duas abordagens (OLS, o que não está certo e MLE, conforme descrito aqui) sejam diferentes . Existem várias maneiras de obter erros padrão de ML: consulte uma referência. Como a probabilidade do log é relativamente simples (especialmente quando a distribuição Poisson é aproximada por uma distribuição Normal para grandes ), esses erros padrão podem ser calculados de forma fechada, se desejar. $(\mu)$ $(\mu,\mu)$ $\mu$

Como exemplo trabalhado, gerei valores partir de uma distribuição Poisson : $12$ $X$ $(100)$

94,99,106,87,91,101,90,102,93,110,97,123

Em seguida, definindo , e , valores correspondentes : $\beta_0=3$ $\beta_1=1/2$ $\sigma=1$ $12$ $Y$

47.4662,53.5622,54.6656,45.3592,49.0347,53.8803,48.3437,54.2255,48.4506,58.6761,50.7423,63.9922

O valor médio de é igual a , a estimativa de . Os resultados do OLS (que são idênticos ao MLE dos coeficientes) estimam como e como . Não é surpresa que a estimativa da interceptação, , se afaste do seu valor real de , porque esses valores permanecem longe da origem. A estimativa da inclinação, , está próxima do valor real de . $X$ $99.4167$ $\mu$ $\beta_0$ $1.24$ $\beta_1$ $0.514271$ $\beta_0$ $3$ $X$ $\beta_1$ $0.5$

A estimativa de OLS de , no entanto, é , menor que o valor verdadeiro de . O MLE de em . (É um acidente que ambas as estimativas sejam baixas e que o MLE seja maior que a estimativa do OLS.) $\sigma^2$ $0.715$ $1$ $\sigma^2$ $0.999351$

Figura

A linha é tanto o ajuste do OLS quanto a estimativa de probabilidade máxima para o modelo de probabilidade conjunta de Poisson-Normal.

whuber
fonte