Qual é a justificativa teórica da decisão para procedimentos de intervalo credível bayesiano?

(Para saber por que escrevi isso, verifique os comentários abaixo da minha resposta a esta pergunta .)

Erros do tipo III e teoria da decisão estatística

Às vezes, dar a resposta certa à pergunta errada é chamado de erro Tipo III. A teoria da decisão estatística é uma formalização da tomada de decisão sob incerteza; fornece uma estrutura conceitual que pode ajudar a evitar erros do tipo III. O elemento chave da estrutura é chamado de função de perda . São necessários dois argumentos: o primeiro é (o subconjunto relevante) o verdadeiro estado do mundo (por exemplo, em problemas de estimativa de parâmetros, o verdadeiro valor do parâmetro ); o segundo é um elemento no conjunto de ações possíveis (por exemplo, em problemas de estimativa de parâmetros, a estimativaq$\theta$$\hat{\theta})$. A saída modela a perda associada a todas as ações possíveis em relação a todos os possíveis estados reais do mundo. Por exemplo, em problemas de estimativa de parâmetros, algumas funções de perda bem conhecidas são:

• a perda de erro absoluta$L(\theta, \hat{\theta}) = |\theta - \hat{\theta}|$
• a perda de erro ao quadrado$L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$
• Perda LINEX de Hal Varian$L(\theta, \hat{\theta}; k) = \exp(k(\theta - \hat{\theta})) - k(\theta - \hat{\theta}) - 1,\text{ } k \ne0$

Examinando a resposta para encontrar a pergunta

Há um caso em que se pode tentar fazer com que erros do tipo III possam ser evitados, concentrando-se na formulação de uma função de perda correta e prosseguindo com o restante da abordagem teórica da decisão (não detalhada aqui). Esse não é o meu resumo - afinal, os estatísticos estão bem equipados com muitas técnicas e métodos que funcionam bem, mesmo que não sejam derivados dessa abordagem. Mas o resultado final, parece-me, é que a grande maioria dos estatísticos não conhece e não se importa com a teoria da decisão estatística, e acho que eles estão perdendo. Para esses estatísticos, eu argumentaria que a razão pela qual eles podem achar valiosa a teoria da decisão estatística em termos de evitar erros do tipo III é porque ela fornece uma estrutura na qual é possível solicitar qualquer procedimento de análise de dados proposto:com qual função de perda (se houver) o procedimento lida de maneira ideal? Ou seja, em que situação de tomada de decisão exatamente ela fornece a melhor resposta?

Perda esperada posterior

De uma perspectiva bayesiana, a função de perda é tudo o que precisamos. Podemos pular o restante da teoria da decisão - quase por definição, a melhor coisa a fazer é minimizar a perda esperada posterior, ou seja, encontrar a ação que minimiza .˜ L ( a ) = ∫ Θ L ( θ , a ) p ( θ | D ) d $a$$\tilde{L}(a) = \int_{\Theta}L(\theta, a)p(\theta|D)d\theta$

(E quanto às perspectivas não bayesianas? Bem, é um teorema da teoria da decisão freqüentista - especificamente, o Teorema da Classe Completa de Wald - de que a ação ideal sempre será minimizar a perda esperada posterior bayesiana em relação a alguns (possivelmente impróprios) A dificuldade com esse resultado é que o teorema da existência não fornece orientação quanto ao uso anterior, mas restringe frutuosamente a classe de procedimentos que podemos "inverter" para descobrir exatamente qual é a pergunta que estamos fazendo. Em particular, o primeiro passo para inverter qualquer procedimento não bayesiano é descobrir qual procedimento bayesiano (se houver) ele replica ou aproxima.)

Ei, Cyan, você sabe que este é um site de perguntas e respostas, certo?

O que me leva - finalmente - a uma questão estatística. Nas estatísticas bayesianas, ao fornecer estimativas de intervalo para parâmetros univariados, dois procedimentos comuns de intervalo credível são o intervalo credível baseado em quantil e o maior intervalo credível de densidade posterior. Quais são as funções de perda por trás desses procedimentos?

Na estimativa de intervalo univariada, o conjunto de ações possíveis é o conjunto de pares ordenados que especificam os pontos finais do intervalo. Deixe um elemento desse conjunto ser representado por .$(a, b),\text{ } a \le b$

Intervalos de densidade posterior mais altos

Seja a densidade posterior . Os intervalos de densidade posterior mais altos correspondem à função de perda que penaliza um intervalo que falha em conter o valor verdadeiro e também penaliza os intervalos na proporção do seu comprimento:$f(\theta)$

$L_{HPD}(\theta, (a, b); k) = I(\theta \notin [a, b]) + k(b – a), \text{} 0 < k \le max_{\theta} f(\theta)$ ,

onde é a função do indicador . Isso dá a perda posterior esperada$I(\cdot)$

$\tilde{L}_{HPD}((a, b); k) = 1 - \Pr(a \le \theta \le b|D) + k(b – a)$ .

Definir produz a condição necessária para um ideal local no interior do espaço do parâmetro: - exatamente a regra para intervalos de HPD, conforme o esperado.f(a)=f(b)=$\frac{\partial}{\partial a}\tilde{L}_{HPD} = \frac{\partial}{\partial b}\tilde{L}_{HPD} = 0$$f(a) = f(b) = k$

A forma de fornece algumas dicas sobre por que os intervalos de HPD não são invariantes a uma transformação crescente monótona do parâmetro. O -espaço HPD intervalo transformados em espaço é diferente do -espaço HPD intervalo porque os dois intervalos correspondem a diferentes funções de perda: o -espaço HPD intervalo corresponde ao uma penalidade de comprimento transformada .g(θ)θg(θ)g(θ$\tilde{L}_{HPD}((a, b); k)$$g(\theta)$$\theta$$g(\theta)$$g(\theta)$k ( g ( b ) - g ( a ) $g(\theta)$$k(g(b) – g(a))$

Intervalos credíveis baseados em quantis

Considere a estimativa de pontos com a função de perda

$L_q(\theta, \hat{\theta};p) = p(\hat{\theta} - \theta)I(\theta < \hat{\theta}) + (1-p)(\theta - \hat{\theta})I(\theta \ge \hat{\theta}), \text{ } 0 \le p \le 1$ .

A perda esperada posterior é

$\tilde{L}_q(\hat{\theta};p)=p(\hat{\theta}-\text{E}(\theta|\theta < \hat{\theta}, D)) + (1 - p)(\text{E}(\theta | \theta \ge \hat{\theta}, D)-\hat{\theta})$ .

A configuração produz a equação implícita$\frac{d}{d\hat{\theta}}\tilde{L}_q=0$

$\Pr(\theta < \hat{\theta}|D) = p$ ,

isto é, o ideal é o % da distribuição posterior, conforme o esperado. (100p$\hat{\theta}$$(100p)$

Assim, para obter estimativas de intervalo baseadas em quantis, a função de perda é

$L_{qCI}(\theta, (a,b); p_L, p_U) = L_q(\theta, a;p_L) + L_q(\theta, b;p_U)$ .

Intervalos de tamanho mínimo

Uma escolha óbvia de uma função de perda para a seleção de intervalos (bayesiana e freqüentista) é usar o tamanho dos intervalos medidos em termos das distribuições marginais. Assim, comece com a propriedade desejada ou a função de perda e obtenha os intervalos ideais. Isso tende a não ser feito, como é exemplificado pela presente questão, mesmo que seja possível. Para conjuntos credíveis bayesianos, isso corresponde a minimizar a probabilidade anterior do intervalo ou a maximizar a crença relativa, por exemplo, conforme descrito em Evans (2016). O tamanho também pode ser usado para selecionar conjuntos de confiança freqüentistas (Schafer 2009). As duas abordagens estão relacionadas e podem ser implementadas com bastante facilidade por meio de regras de decisão que preferencialmente incluíam decisões com grandes informações mútuas pontuais (Bartels 2017).

Bartels, C., 2017. Utilizando conhecimentos prévios em testes freqüentistas. compartilhamento de figo. https://doi.org/10.6084/m9.figshare.4819597.v3

Evans, M., 2016. Medição de evidência estatística usando crença relativa. Revista de biotecnologia computacional e estrutural, 14, pp.91-96.

Schafer, CM e Stark, PB, 2009. Construindo regiões de confiança com o tamanho ideal esperado. Jornal da Associação Estatística Americana, 104 (487), pp.1080-1089.