O viés baixo em uma amostra é sinônimo de alta variação?

O seguinte é verdadeiro?

viés baixo = alta variância
viés baixo = baixa variância

Entendo o viés alto e baixo, mas como a variação é diferente? Ou os sinônimos acima?

Não. Você pode ter alta ou baixa ao mesmo tempo. Aqui está um exemplo ilustrativo. imagem e fonte do artigo Também recomendo que você leia o artigo de onde essa imagem vem.

A razão pela qual você tem essa impressão é que, na "tenra idade" do aprendizado de máquina, existe um conceito chamado compensação de variação de viés (como o @Kodiologist mencionou, esse conceito ainda é verdadeiro e um conceito fundamental dos modelos de ajuste atualmente).

• Ao aumentar a complexidade do modelo, a variação aumenta e o viés é reduzido
• quando regulariza o modelo, o viés é aumentado e a variação reduzida.

Na recente palestra Deep Learning Coursera, de Andrew Ng, ele mencionou que, na recente estrutura de aprendizado profundo (com grande quantidade de dados), as pessoas falam menos sobre troca. Em vez disso, existem maneiras de reduzir apenas a variação e não aumentar o viés (por exemplo, aumentar o tamanho dos dados de treinamento), como vice-versa.

A diferença entre viés e variância é a mesma que entre exatidão e precisão :

• A precisão de um sistema de medição é a proximidade com o valor real (verdadeiro) de uma quantidade. (≈ viés)

• A precisão de um sistema de medição é o grau em que medições repetidas fornecem os mesmos resultados. (≈ variação)