Por que a hipótese de regressão logística é vista como uma função de probabilidade?

Não, não é apenas uma heurística.

A regressão logística é um caso particular de um modelo linear generalizado (GLM), neste caso para um processo em que a variável de resposta é condicionalmente Bernoulli (ou, mais geralmente, binomial ).

Um GLM inclui uma especificação de um modelo para a média condicional da resposta. No caso de uma variável de Bernoulli, sua média condicional é o parâmetro , que é explicitamente a probabilidade de a resposta ser . É modelado em termos de um ou mais preditores. Aqui está o modelo para a média de um único preditor, : $p_i$ $Y_i$ $1$ $x_i$

P (Y_{Eu} = 1 1 | x_{Eu}) = \frac{\exp (β_{0 0} + β_{1 1} x_{Eu})}{1 1 + \exp (β_{0 0} + β_{1 1} x_{Eu})}

$P(Y_i=1|x_i)=\frac{\exp(\beta_0+\beta_1x_i)}{1+\exp(\beta_0+\beta_1x_i)}$

Portanto, é (intencionalmente) um modelo para a probabilidade de que a resposta seja , dado o valor dos preditores. $1$

A forma da função de link (e seu inverso ) também não é acidental - o link logit (que é o que faz com que a regressão logística) seja a função natural (ou canônica ) do link para uma resposta binomial. Outras opções de função de link são possíveis (e elas também serão modelos para a probabilidade de 1). Outras opções comuns para uma resposta binomial são o probit e o log-log complementar, mas a logística é de longe a mais comum. $\eta=\log(p/(1-p))$ $p=\exp(\eta)/(1+\exp(\eta))$

Glen_b -Reinstate Monica
fonte

Corrija-me se estiver errado, mas a função deve ser uma regra de pontuação adequada. Nesses casos, refletirá a probabilidade.

Cagdas Ozgenc # 6/16

@Cagdas O critério que está sendo otimizado nos GLMs de estimativa é a probabilidade (embora o MLE possa ser visto como um caso especial de estimativa ótima de pontuação). Você está lançando a modelagem de variáveis de Bernoulli como um problema de previsão aqui?

Glen_b -Reinstala Monica

Por que a hipótese de regressão logística é vista como uma função de probabilidade?

Respostas: