Estou trabalhando em um projeto de Machine Learning com dados que já são (fortemente) influenciados pela seleção de dados. Vamos supor que você tenha um conjunto de regras codificadas. Como você cria um modelo de aprendizado de máquina para substituí-lo, quando todos os dados que ele pode usar...
Quando a palavra "viés" foi cunhada para significar ?E [ θ^- θ ]E[θ^−θ]\mathbb{E}[\hat{\theta}-\theta] A razão pela qual estou pensando nisso agora é porque pareço me lembrar de Jaynes, em seu texto da Teoria das Probabilidades , criticando o uso da palavra "preconceito" usado para descrever...
Você pode fornecer um exemplo de um estimador de MLE da média que é tendenciosa? Não estou procurando um exemplo que quebre os estimadores de MLE em geral, violando as condições de regularidade. Todos os exemplos que vejo na internet referem-se à variação e não consigo encontrar nada relacionado...
Eu tenho uma pergunta sobre o viés variável omitido na regressão logística e linear. Digamos que eu omita algumas variáveis de um modelo de regressão linear. Finja que essas variáveis omitidas não estão correlacionadas com as variáveis que incluí no meu modelo. Essas variáveis omitidas...
Li várias vezes que a validação cruzada "Deixar um fora" tem alta variação devido à grande sobreposição das dobras de treinamento. No entanto, não entendo por que isso é: o desempenho da validação cruzada não deve ser muito estável (baixa variação) exatamente porque os conjuntos de treinamento são...
Eu sempre luto para obter a verdadeira essência do problema incidental dos parâmetros. Li em várias ocasiões que os estimadores de efeitos fixos de modelos de dados de painel não lineares podem ser severamente influenciados por causa do "bem conhecido" problema de parâmetros incidentais. Quando...
Estou tentando entender a troca de viés e variância, a relação entre o viés do estimador e o viés do modelo e o relacionamento entre a variação do estimador e a variação do modelo. Cheguei a estas conclusões: Tendemos a superestimar os dados quando negligenciamos o viés do estimador, ou seja,...
Questões Depende se a árvore é rasa ou profunda? Ou podemos dizer isso independentemente da profundidade / níveis da árvore? Por que o viés é baixo e a variância é alta? Por favor, explique intuitivamente e
Uma suposição básica do uso de modelos de regressão para inferência é que "todos os preditores relevantes" foram incluídos na equação de previsão. A lógica é que a falha em incluir um fator importante do mundo real leva a coeficientes tendenciosos e, portanto, inferências imprecisas (ou seja, viés...
Esta pergunta faz referência ao artigo de Galit Shmueli, "Explicar ou prever" . Especificamente, na seção 1.5, "Explicar e prever são diferentes", o professor Shmueli escreve: Na modelagem explicativa, o foco é minimizar o viés para obter a representação mais precisa da teoria...
Um amigo representa um cliente em apelação, após um julgamento criminal no qual parece que a seleção do júri foi racialmente tendenciosa. O júri consistia de 30 pessoas, em 4 grupos raciais. A acusação usou desafios peremptórios para eliminar 10 dessas pessoas da piscina. O número de pessoas e o...
Na psicologia e em outros campos, geralmente é empregada uma forma de regressão gradual que envolve o seguinte: Observe os preditores restantes (não há nenhum no modelo a princípio) e identifique o preditivo que resulta na maior mudança no quadrado r; Se o valor p da alteração do quadrado r for...
Estou interessado em obter uma estimativa imparcial de em uma regressão linear múltipla.R2R2R^2 Refletindo, posso pensar em dois valores diferentes que uma estimativa imparcial de pode estar tentando corresponder.R2R2R^2 Fora da amostra :R2R2R^2 o quadrado r que seria obtido se a equação de...
Estou tentando obter uma compreensão intuitiva e sentir a diferença e a diferença prática entre o termo consistente e assintoticamente imparcial. Conheço suas definições matemáticas / estatísticas, mas estou procurando algo intuitivo. Para mim, olhando suas definições individuais, elas quase...
Seja uma estimativa de probabilidade máxima de um parâmetro verdadeiro de algum modelo. À medida que o número de pontos de dados aumenta, o erro geralmente diminui como O (1 / \ sqrt n) . Usando a desigualdade do triângulo e as propriedades da expectativa, é possível mostrar que essa taxa de erro...
Sou responsável por apresentar os resultados dos testes A / B (executados em variações de sites) na minha empresa. Executamos o teste por um mês e, em seguida, verificamos os valores de p em intervalos regulares até atingirmos o significado (ou abandonamos se o significado não for alcançado após a...
Em Métodos Estatísticos nas Ciências Atmosféricas , Daniel Wilks observa que a regressão linear múltipla pode levar a problemas se houver intercorrelações muito fortes entre os preditores (3ª edição, página 559-560): Uma patologia que pode ocorrer na regressão linear múltipla é que um conjunto...
Na seção 3.2 do Reconhecimento de padrões e aprendizado de máquina de Bishop , ele discute a decomposição da variação de viés, afirmando que, para uma função de perda ao quadrado, a perda esperada pode ser decomposta em um termo de viés ao quadrado (que descreve a que distância as previsões médias...
De acordo com este tutorial sobre aprendizado profundo , a redução de peso (regularização) geralmente não é aplicada aos termos de viés b por quê? Qual é o significado (intuição) por trás
Eu gostaria de obter uma compreensão conceitual do Root Mean Squared Error (RMSE) e do desvio médio da polarização (MBD). Tendo calculado essas medidas para minhas próprias comparações de dados, muitas vezes fiquei perplexo ao descobrir que o RMSE é alto (por exemplo, 100 kg), enquanto o MBD é...