Calculando pesos de probabilidade inversa - estimativa de densidade condicional (multivariada)?

A versão geral:

Preciso estimar onde e são contínuos e multivariados. Prefiro fazê-lo de forma não paramétrica, porque não tenho uma boa forma funcional em mente e precisa ser algo como imparcial. Eu queria usar um estimador condicional de densidade do kernel, mas percebi que precisaria quantizar o primeiro. Então tive a ideia de estimar e partir dos dados e usá-lo para calcular , ou talvez eu o tenha lido em algum lugar e não lembro onde. $f(A | X)$ $A$ $X$ $\hat{f}(A | X)$ $X$ $\hat{f}(A , X)$ $\hat{f}(X)$ $\hat{f}(A | X)$

Existe uma razão para esse procedimento não ser válido? Existe uma abordagem melhor ou mais honesta do que a densidade do kernel? Além disso, existe um problema em estimar densidades populacionais a partir de densidades amostrais não parametricamente? Os dados são dados de pesquisa e eu tenho pesos de pesquisa; devo incorporá-los de alguma forma?

A versão específica do caso:

Provavelmente, vale a pena mencionar que vou usar essas estimativas para pesos inversos de probabilidade de tratamento em um modelo estrutural marginal, como em Robins (2000) ( PDF sem porta ). Observo uma sequência de "tratamentos" e uma sequência de fatores de confusão que variam no tempo com relação a alguns resultado que ocorre em . Eu propus uma hipótese de uma relação causal paramétrica simples, , mas como existe um fator de confusão variando no tempo $\{a_t\}_{t=0}^{4}$ $\{x_t\}_{t=0}^{4}$ $\tilde{y}$ $t=T+1$ $E[\tilde{Y} | \vec{a}]=\beta'\vec{a}$ $\beta$ é uma estimativa tendenciosa do "efeito médio do tratamento", e o fator de confusão não pode ser adicionado como um regressor, porque está no caminho causal e isso também irá influenciar . Felizmente, Doc Robins descobriu que posso obter estimativas imparciais / infundadas e razoavelmente eficientes se ponderar novamente minhas observações: $\beta$

w_{i} = \prod_{s = 0}^{4} \frac{f (a_{s} | a_{s < t})}{f (a_{s} | a_{s < t}, x_{s < t})}

$w_i = \prod_{s=0}^{4} \frac{ f(a_s | a_{s<t}) }{ f(a_s | a_{s<t},x_{s<t}) }$

Minha pergunta: Essa sequência de pesos é realmente o que eu preciso de uma estimativa. Robins recomenda regressão logística. Mas está em , é medido em e, para todos os fins práticos, está em um subconjunto finito do mesmo. fica em um intervalo fechado, mas apenas porque é realmente a média de algumas variáveis, cada uma medida em um subconjunto finito de . $a_t$ $[0,\infty)^7$ $\{0,\dots\}^{7}$ $x_t$ $\{0,\dots,12\}$

Então, eu tive algumas idéias:

Estimado e não parametricamente $f(a_t, a_{s<t}, x_{s<t})$ $f(x,a_{s<t})$
Estime com regressão beta não parametricamente $f(a_t | a_{s<t}, x_{s<t})$ $f( x_{s<t}, a_{s<t})$
Estime com regressão beta, e estime ) "encadeando" regressões beta de volta no tempo para expressar a coisa toda como condicional. $f(x_{t-1}|a_t,a_{s<t},x_{s<(t-1)})$ $f(a_t, a_{s<t},x_{s<(t-1)})$
Algo realmente coerente e honesto na propagação da incerteza, no qual eu obviamente não pensei.
Bayes? Conheço Stan e JAGS, mas o MCMC provavelmente explodirá meu computador (não quero lidar com o EC2).

Não encontrei nenhuma dica na literatura, pois tratamentos multivariados são raros na modelagem causal. O que devo fazer?

Pontos de bônus: como você se sente sobre a notação para representar vez de algo como ? $a_{s<t}$ $\{a_s\}_{s=0}^{t}$ $\vec{a}_{t-1}$

regression estimation nonparametric pdf causality shadowtalker
fonte

A ideia básica

De acordo com Chen, Linton e Robinson (2001) , a técnica "padrão" para estimativa de densidade de núcleo univariada condicional é encontrar, para as larguras de banda , $a,b,c$

\frac{{\hat{f}}_{a b} (y, z)}{{\hat{f}}_{c} (z)} = {\hat{f}}_{a b c} (y | z)

$\frac{\hat{f}_{ab}(y,z)}{\hat{f}_c(z)}=\hat{f}_{abc}(y|z)$

Então, com a largura de banda do numerador e a largura de banda do denominador e , o resultado do limite central a seguir se mantém sob certas premissas de independência e consistência (que são realmente realmente restritivas quando ): $(a,b)$ $c$ $a=b=c$ $y=x_t,z=x_{t-1}$

\sqrt{n a^{2}} ({\hat{f}}_{a b c = a a a} (y | z) - f (y | z)) \overset{d}{\to} N (0, V)

$\sqrt{na^2}\left(\hat{f}_{abc=aaa}(y|z)-f(y|z)\right)\xrightarrow{d}N(0,V)$

onde

\begin{aligned} \hat{V} & = {(\int K (u)^{2} d u)}^{2} \cdot \frac{{\hat{f}}_{a a a} (y | z)}{{\hat{f}}_{a} (z)} \\ = {(\int K (u)^{2} d u)}^{2} \cdot {\hat{f}}_{a a} (y, z) \end{aligned}

$\begin{align} \hat{V}&=\left(\int K(u)^2du\right)^2\cdot\frac{\hat{f}_{aaa}(y|z)}{\hat{f}_a(z)}\\&=\left(\int K(u)^2du\right)^2\cdot\hat{f}_{aa }(y,z) \end{align}$

Embora eu nunca tenha visto um modelo com ponderação freqüente (mesmo WLS de estatísticas introdutórias), tente explicar a variação dos pesos estimados. Por enquanto, seguirei essa convenção, mas se obtiver resultados aqui, verificarei se posso trabalhar em um modelo totalmente bayesiano que propague a incerteza com mais honestidade. Então, sim, estimar a densidade condicional estimando as densidades conjunta e marginal é um procedimento padrão.

Aplicabilidade ao meu caso

Não está explicitamente claro nesse artigo como isso se generaliza quando e e . Mas acho que isso é exatamente a mesma coisa que uma grande sequência longa que parece perfeitamente administrável de acordo com Robinson (1983) (citado em Chen et al.). Novamente, usar a regra de Bayes para estimar a densidade condicional parece perfeitamente aceitável. $y=x_t$ $z=\left(x_s\right)_{s=1}^{t-1}$ $x_s=\left(\begin{smallmatrix} x_{s,1}\\ \ddots \\x_{s,D} \end{smallmatrix}\right)$ $x=\left(\left(x_{s,d}\right)_{d=1}^{D}\right)_{s=1}^{t-1}$

Largura de banda

A questão final é a seleção de largura de banda. A largura de banda agora é uma matriz de bloco do formato

B = (\begin{matrix} B^{n u m e r a t o r} & 0 \\ 0 & B^{d e n o m i n a t o r} \end{matrix}) = (\begin{matrix} (\begin{matrix} a_{1, 1} & B_{1}^{n u m} \\ ⋱ \\ B_{2}^{n u m} & a_{t, D} \end{matrix}) & 0 \\ 0 & (\begin{matrix} c_{1, 1} & B_{1}^{d e n o m} \\ ⋱ \\ B_{2}^{d e n o m} & c_{t - 1, D} \end{matrix}) \end{matrix})

$B=\left(\begin{matrix} B^{numerator}&0\\0&B^{denominator} \end{matrix}\right)=\left(\begin{matrix} \left(\begin{matrix}a_{1,1}&&B^{num}_1\\&\ddots&\\B^{num}_2&&a_{t,D}\end{matrix}\right)&0\\0&\left(\begin{matrix}c_{1,1}&&B^{denom}_1\\&\ddots&\\B^{denom}_2&&c_{t-1,D}\end{matrix}\right) \end{matrix}\right)$

o que é uma bagunça. Quando a largura de banda tal que , então , mas esse resultado se aplica separadamente a e vez de para como um todo ( fonte , notas de aula de alguém). $H=hH_0$ $|H_0|=1$ $b^*\sim\sqrt[4+D]{N}$ $B^{num}$ $B^{denom}$ $B$

Chen e cols. Encontram uma largura de banda ideal (no caso 2-d) para um determinado nível de que parece generalizado para o caso em que e são multivariados. Eles sugerem definir onde é a média teórica que seria induzida sob normalidade da articulação e derivam . $a=b=c$ $z$ $y$ $z$ $z=\mu$ $\mu$ $\hat{a}(\mu)$

Uma versão mais geral do mesmo resultado está em outra seção dessas notas de aula, denominada largura de banda "regra de ouro". Eles também obtêm uma largura de banda ideal em função de um procedimento geral de validação cruzada.

Computação

Eu tenho um tratamento 7-dimensional ao longo de 3 períodos de tempo, então tenho uma densidade de 21 dimensões para estimar. E eu esqueci as covariáveis da linha de base. Eu tenho algo como 30 covariáveis de linha de base, então acabaria tentando estimar uma distribuição 51-dimensional, uma distribuição 44-dimensional e uma distribuição 37-dimensional. E isso sem mencionar que a dimensionalidade extrema exigirá uma amostra impossivelmente grande. Scott & Wand (1991) relatam que um tamanho de amostra de 50 em uma dimensão é equivalente a mais de 1 milhão em 8 dimensões ... nenhuma menção a 30. Nenhuma quantidade delas pode expressar como me sinto agora.

Conclusão

Então perdi uma semana da minha vida nisso. Ah bem. Em vez disso, vou usar o MCMC para ajustar o tratamento paramétrico e os modelos de resultados simultaneamente, para que os pesos do IPT acabem sendo uma função das densidades preditivas posteriores do modelo de tratamento. Depois, passo pelas formas linear, quadrática e cúbica para o modelo de tratamento e ver qual delas se encaixa melhor.

shadowtalker
fonte

"Então perdi uma semana da minha vida nisso." Isso se chama aprendizado e pesquisa. Sendo um estudante de mestrado, você deve abraçar isso, porque há mais coisas assim chegando. Geralmente, não há atalhos na pesquisa, porque muitas vezes ninguém sabe o caminho!

Momo