Minha pergunta revela meu fraco entendimento da regressão de Poisson e GLMs em geral. Aqui estão alguns dados falsos para ilustrar minha pergunta:
### some fake data
x=c(1:14)
y=c(0, 1, 2, 3, 1, 4, 9, 18, 23, 31, 20, 25, 37, 45)
Algumas funções personalizadas para retornar psuedo-R2:
### functions of pseudo-R2
psuR2 <- function(null.dev, model.dev) { 1 - (model.dev / null.dev)}
predR2 <- function(actuals, predicted) { 1 - (sum((actuals - predicted)^2)) / sum((actuals - mean(actuals))^2)}
Ajuste quatro modelos: OLS, Gaussian GLM com link de identidade, Poisson GLM com link de log, Poisson GLM com link de identidade
#### OLS MODEL
mdl.ols=lm(y~x)
summary(mdl.ols)
pred.ols = predict(mdl.ols)
summary(mdl.ols)$r.squared
predR2(y, pred.ols)
#### GLM MODEL, family=gaussian(link="identity")
mdl.guass <- glm(y~x, family=gaussian(link="identity"), maxit=500)
summary(mdl.guass)
pred.guass = predict(mdl.guass)
psuR2(mdl.guass$null.deviance, mdl.guass$deviance)
predR2(y, pred.guass)
#### GLM MODEL, family=possion (canonical link)
mdl.poi_log <- glm(y~x, family=poisson(link="log"), maxit=500)
summary(mdl.poi_log)
pred.poi_log= exp(predict(mdl.poi_log)) #transform
psuR2(mdl.poi_log$null.deviance, mdl.poi_log$deviance)
predR2(y, pred.poi_log)
#### GLM MODEL, family=poisson((link="identity")
mdl.poi_id <- glm(y~x, family=poisson(link="identity"), start=c(0.5,0.5), maxit=500)
summary(mdl.poi_id)
pred.poi_id = predict(mdl.poi_id)
psuR2(mdl.poi_id$null.deviance, mdl.poi_id$deviance)
predR2(y, pred.poi_id)
Finalmente, plote as previsões:
#### Plot the Fit
plot(x, y)
lines(x, pred.ols)
lines(x, pred.guass, col="green")
lines(x,pred.poi_log, col="red")
lines(x,pred.poi_id, col="blue")
Eu tenho 2 perguntas:
Parece que os coeficientes e previsões que saem do OLS e do Gaussian GLM com link de identidade são exatamente os mesmos. Isso é sempre verdade?
Estou muito surpreso que as estimativas e previsões do OLS sejam muito diferentes do Poisson GLM com link de identidade . Eu pensei que ambos os métodos tentariam estimar E (Y | X). Como é a função de probabilidade quando eu uso o link de identidade para Poisson?
fonte
Respostas:
Sim, são a mesma coisa. O MLE para um gaussiano é de mínimos quadrados; portanto, quando você faz um GLM gaussiano com link de identidade, está fazendo o OLS.
a) " Eu pensei que ambos os métodos tentariam estimar E (Y | X) "
De fato, eles fazem, mas o modo como a expectativa condicional é estimada em função dos dados não é a mesma. Mesmo se ignorarmos a distribuição (e, portanto, como os dados entram na probabilidade) e pensarmos no GLM apenas em termos de média e variância (como se fosse apenas uma regressão ponderada), a variação de um Poisson aumenta com a média, então os pesos relativos nas observações seriam diferentes.
b) " Como é a função de probabilidade quando eu uso o link de identidade para Poisson? "
fonte