Eu li que o laço de grupo é usado para seleção de variáveis e esparsidade em um grupo de variáveis. Eu quero saber a intuição por trás dessa afirmação. Por que o laço de grupo é preferível ao laço? Por que o caminho da solução do laço de grupo não é linear por...
Sei que esse tópico foi abordado várias vezes antes, por exemplo , aqui , mas ainda não tenho certeza da melhor maneira de interpretar minha saída de regressão. Eu tenho um conjunto de dados muito simples, constituído por uma coluna de valores x e uma coluna de valores y , divididos em dois grupos...
O custo da entropia cruzada faz sentido no contexto da regressão (em oposição à classificação)? Se sim, você poderia dar um exemplo de brinquedo através do TensorFlow? Se não, por que não? Eu estava lendo sobre entropia cruzada em Redes Neurais e Deep Learning, de Michael Nielsen, e parece que...
Considere o modelo de regressão linear y=Xβ+uy=Xβ+u\mathbf{y}=\mathbf{X\beta}+\mathbf{u} , u∼N(0,σ2I)u∼N(0,σ2I)\mathbf{u}\sim N(\mathbf{0},\sigma^2\mathbf{I}) , E(u∣X)=0E(u∣X)=0E(\mathbf{u}\mid\mathbf{X})=\mathbf{0} . Seja H0:σ20=σ2H0:σ02=σ2H_0: \sigma_0^2=\sigma^2 vs H1:σ20≠σ2H1:σ02≠σ2H_1:...
Dadas duas variáveis aleatórias ξξ\xi e ηη\eta , podemos calcular seu "coeficiente de correlação" ccc e formar a linha de melhor ajuste entre essas duas variáveis aleatórias. Minha pergunta é por que? 1) Existem variáveis aleatórias, ξξ\xi e ηη\eta que são dependentes da pior maneira...
No livro de Bishop sobre aprendizado de máquina, ele discute o problema de ajustar uma função polinomial a um conjunto de pontos de dados. Seja M a ordem do polinômio ajustado. Ele afirma que Vemos que, à medida que M aumenta, a magnitude dos coeficientes geralmente aumenta. Em particular para...
Quero calcular o AICc de um modelo de regressão de cume. O problema é o número de parâmetros. Para regressão linear, a maioria das pessoas sugere que o número de parâmetros é igual ao número de coeficientes estimados mais sigma (a variação do erro). Quando se trata de regressão de crista, li que o...
Pouco histórico Estou trabalhando na interpretação da análise de regressão, mas fico realmente confuso sobre o significado de r, r ao quadrado e desvio padrão residual. Conheço as definições: Caracterizações r mede a força e a direção de uma relação linear entre duas variáveis em um gráfico...
Estou obtendo alguns resultados desconcertantes para a correlação de uma soma com uma terceira variável quando os dois preditores estão correlacionados negativamente. O que está causando esses resultados desconcertantes? Exemplo 1: Correlação entre a soma de duas variáveis e uma terceira...
A regressão passo a passo havia sido superutilizada em muitos artigos biomédicos no passado, mas isso parece estar melhorando com uma melhor educação de seus muitos problemas. Muitos revisores mais antigos ainda o solicitam. Quais são as circunstâncias em que a regressão gradual tem um papel e deve...
Estou trabalhando em um problema de regressão linear muito grande, com tamanho de dados tão grande que eles precisam ser armazenados em um cluster de máquinas. Será muito grande para agregar todas as amostras na memória de uma única máquina (mesmo disco) Para fazer a regressão desses dados, estou...
Eu estou procurando uma referência onde está provado que a média harmônica x¯h= n∑ni = 11xEux¯h=n∑Eu=1n1xEu\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} minimiza (em ) a soma dos erros relativos ao quadradozzz ∑i = 1n( ( xEu- z)2xEu) .∑Eu=1n((xEu-z)2xEu).\sum_{i=1}^n \left( \frac{(x_i -...
Pelo que entendi, a seleção de variáveis com base em valores-p (pelo menos no contexto de regressão) é altamente falha. Parece que a seleção de variáveis com base no AIC (ou similar) também é considerada defeituosa por alguns, por razões semelhantes, embora isso pareça um pouco obscuro (por...
Em Econometria na maior parte inofensiva: o companheiro de um empirista (Angrist e Pischke, 2009: página 209), li o seguinte: (...) De fato, o 2SLS recém-identificado (digamos, o estimador simples de Wald) é aproximadamente imparcial . Isso é difícil de mostrar formalmente porque o 2SLS...
Eu sei que na regressão linear a variável de resposta deve ser contínua, mas por que isso acontece? Não consigo encontrar nada online que explique por que não consigo usar dados discretos para a variável de
Uma norma é única (pelo menos em parte) porque está no limite entre não convexo e convexo. Uma norma é a norma convexa 'mais esparsa' (certo?).L1L1L_1p=1p=1p=1L1L1L_1 Entendo que a norma euclidiana tem raízes na geometria e tem uma interpretação clara quando as dimensões têm as mesmas unidades....
Eu estava lendo esta pergunta sobre regressão em larga escala ( link ), onde whuber apontou um ponto interessante da seguinte maneira: "Quase qualquer teste estatístico que você executa será tão poderoso que é quase certo identificar um efeito" significativo ". Você precisa se concentrar muito...
Ultimamente, tive que ler vários artigos em economia (um campo com o qual não estou muito familiarizado). Uma coisa que eu notei é que, mesmo quando a variável de resposta é binária, os modelos de regressão linear ajustados usando OLS são onipresentes. Minha pergunta é, portanto: Por que a...
Estou lendo sobre a melhor seleção de subconjunto no livro Elementos do aprendizado estatístico. Se eu tiver 3 preditores x1,x2,x3x1,x2,x3x_1,x_2,x_3 , crio 23=823=82^3=8 subconjuntos: Subconjunto sem preditores subconjunto com o preditorx1x1x_1 subconjunto com o preditorx2x2x_2 subconjunto com...
Uma regressão de yyy em xxx não precisa ser causal se houver variáveis omitidas que influenciam xxx e yyy . Mas se não for para variáveis omitidas e erro de medição, uma regressão é causal? Ou seja, se todas as variáveis possíveis forem incluídas na