Zou et al. "Nos" graus de liberdade "do laço" (2007) mostram que o número de coeficientes diferentes de zero é uma estimativa imparcial e consistente para os graus de liberdade do laço. Parece um pouco contra-intuitivo para mim. Suponha que tenhamos um modelo de regressão (onde as variáveis...
Toda afirmação que encontro do estimador James-Stein assume que as variáveis aleatórias estimadas têm a mesma variação (e unidade). Mas todos esses exemplos também mencionam que o estimador JS pode ser usado para estimar quantidades sem nada a ver um com o outro. O exemplo da Wikipedia é a...
Enquanto isso, estou estudando o LASSO ( operador menos absoluto de encolhimento e seleção). Vejo que o valor ideal para o parâmetro de regularização pode ser escolhido por validação cruzada. Vejo também na regressão de cume e em muitos métodos que aplicam a regularização, podemos usar o CV para...
Suponha que eu tenho dois estimadores e que são estimadores consistentes do mesmo parâmetro e que com no sentido psd. Portanto, assintoticamente é mais eficiente que . Esses dois estimadores são baseados em diferentes funções de perda. β 2β0√βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0...
Para um exemplo simples, assuma que existem dois modelos de regressão linear Modelo 1 tem três preditores, x1a, x2b, ex2c O modelo 2 possui três preditores do modelo 1 e dois preditores adicionais x2aex2b Existe uma equação de regressão populacional em que a variação populacional explicada é...
Suponha que eu tenha dados longitudinais da forma (eu tenho várias observações, essa é apenas a forma de uma única). Estou interessado em restrições sobre Σ . Um irrestrita Σ é equivalente a Y j = α j + j - 1 Σ ℓ = 1 & Phi; ℓ j Y j - ℓ + ε jY =( Y1, ... , YJ) ∼ N( μ , Σ...
Suponha que eu emparelhei observações desenhadas como para . Let e denotam por o ° maior valor observado de . Qual é a distribuição (condicional) de ? (ou equivalente, o de )Xi∼N(0,σ2x),Yi∼N(0,σ2y),Xi∼N(0,σx2),Yi∼N(0,σy2),X_i \sim \mathcal{N}\left(0,\sigma_x^2\right), Y_i \sim...
Estou confuso sobre a análise de permutação para seleção de características em um contexto de regressão logística. Você poderia fornecer uma explicação clara do teste de permutação aleatória e como ele se aplica à seleção de recursos? Possivelmente com algoritmo e exemplos exatos. Finalmente,...
Uma propriedade fundamental da regressão de efeitos aleatórios é que as estimativas de interceptação aleatória são "reduzidas" em direção à média geral da resposta em função da variação relativa de cada estimativa. ρJ=τ2/(τ2+σ2/nj).você^j= ρjy¯j+ ( 1 - ρj) y¯U^j=ρjy¯j+(1−ρj)y¯\hat{U}_j = \rho_j...
Alguém pode fornecer uma visão intuitiva sobre por que é melhor ter beta menor? Para o LASSO, eu posso entender isso, há um componente de seleção de recurso aqui. Menos recursos tornam o modelo mais simples e, portanto, menos provável de ter um ajuste excessivo. No entanto, para cume, todos os...
Pretendo estimar um GLM hierárquico, mas com a seleção de recursos para determinar quais covariáveis são relevantes no nível da população a serem incluídas. Suponha que eu tenha grupos com observações e possíveis covariáveis Ou seja, possuo uma matriz de design de covariáveis \ boldsymbol {x}...