A idéia "fundamental" das estatísticas para estimar parâmetros é a máxima probabilidade . Gostaria de saber qual é a ideia correspondente no aprendizado de máquina. Qn 1. Seria justo dizer que a idéia 'fundamental' no aprendizado de máquina para estimar parâmetros é: 'Funções de Perda' [Nota:...
Estou tentando entender o que é o objetivo da função de perda e não consigo entender direito. Portanto, até onde eu entendo, a função de perda é a introdução de algum tipo de métrica com a qual podemos medir o "custo" de uma decisão incorreta. Então, digamos que eu tenho um conjunto de dados de...
Eu trabalho em um domínio problemático em que as pessoas frequentemente relatam ROC-AUC ou AveP (precisão média). No entanto, recentemente encontrei trabalhos que otimizam a perda de log , enquanto outros relatam perda de dobradiça . Embora eu entenda como essas métricas são calculadas, estou...
Com um plano prévio, os estimadores ML (freqüentista - máxima verossimilhança) e MAP (bayesiano - máxima a posteriori) coincidem. De maneira mais geral, porém, estou falando de estimadores de pontos derivados como otimizadores de alguma função de perda. Ou seja, (Bayesian) x (x^(. ) = argminE (...
Estou tentando usar a perda ao quadrado para fazer a classificação binária em um conjunto de dados de brinquedo. Estou usando o mtcarsconjunto de dados, use milhas por galão e peso para prever o tipo de transmissão. O gráfico abaixo mostra os dois tipos de dados do tipo de transmissão em cores...
Estou tentando obter uma perspectiva global de algumas das idéias essenciais do aprendizado de máquina, e fiquei imaginando se existe um tratamento abrangente das diferentes noções de perda (quadrado, log, dobradiça, proxy, etc.). Eu estava pensando em algo como uma apresentação formal mais...
Estou tentando entender melhor a perda de log e como ela funciona, mas uma coisa que não consigo encontrar é colocar o número da perda de log em algum tipo de contexto. Se meu modelo tiver uma perda de log de 0,5, isso é bom? O que é considerado uma pontuação boa e ruim? Como esses limites...
Estou tentando entender a função de perda do Yolo
Eu sei que o k-means geralmente é otimizado usando a Maximização de Expectativas . No entanto, podemos otimizar sua função de perda da mesma maneira que otimizamos qualquer outra! Encontrei alguns trabalhos que realmente usam descida gradiente estocástica para médias k em larga escala, mas não...
A perda de dobradiça pode ser definida usando e a perda de log pode ser definida como log ( 1 + exp ( - y i w T x i ) )max ( 0 , 1 - yEuWTxEu)max(0 0,1-yEuWTxEu)\text{max}(0, 1-y_i\mathbf{w}^T\mathbf{x}_i)log ( 1 + exp( - yEuWTxEu) ))registro(1+exp(-yEuWTxEu))\text{log}(1 +
O Tensorflow tem um tutorial de exemplo sobre a classificação do CIFAR-10 . No tutorial, a perda média de entropia cruzada no lote é minimizada. def loss(logits, labels): """Add L2Loss to all the trainable variables. Add summary for for "Loss" and "Loss/avg". Args: logits: Logits from...
O classificador Naive Bayes é o classificador que atribui itens a uma classe base na maximização do posterior para associação à classe e assume que os recursos dos itens são independentes.CxxxCCCP(C|x)P(C|x)P(C|x) A perda de 0-1 é a perda que atribui a qualquer classificação incorreta uma perda de...
Estou tentando treinar uma rede neural para classificação, mas os rótulos que tenho são bastante barulhentos (cerca de 30% deles estão errados). A perda de entropia cruzada realmente funciona, mas eu queria saber se existem alternativas mais eficazes nesse caso. ou a perda de entropia cruzada é a...
Na seção 3.2 do Reconhecimento de padrões e aprendizado de máquina de Bishop , ele discute a decomposição da variação de viés, afirmando que, para uma função de perda ao quadrado, a perda esperada pode ser decomposta em um termo de viés ao quadrado (que descreve a que distância as previsões médias...
No livro Deep Learning de Ian Goodfellow , está escrito que Às vezes, a função de perda com a qual realmente nos preocupamos (digamos, erro de classificação) não é aquela que pode ser otimizada com eficiência. Por exemplo, minimizar exatamente a perda esperada de 0-1 é tipicamente intratável...
Eu faria uma pergunta relacionada a este . Encontrei um exemplo de como escrever a função de perda personalizada para o xgboost aqui : loglossobj <- function(preds, dtrain) { # dtrain is the internal format of the training data # We extract the labels from the training data labels <-...
Comecei aprendendo sobre redes neurais com o tutorial neuralnetworksanddeeplearning dot.com. Em particular no capítulo 3, há uma seção sobre a função de entropia cruzada e define a perda de entropia cruzada como: C= - 1n∑x∑j( yjemumaeuj+ ( 1 - yj) em( 1 - aeuj)
A solução para o problema: minmE[|m−X|]minmE[|m−X|] \min_{m} \; E[|m-X|] é conhecido por ser a mediana de XXX , mas como é a função de perda para outros percentis? Ex: o 25º percentil de X é a solução para: minmE[L(m,X)]minmE[L(m,X)] \min_{m} \; E[ L(m,X) ] O que é LLL neste...
Eu quero usar o aprendizado profundo para treinar uma detecção binária de face / sem face, que perda devo usar, acho que é SigmoidCrossEntropyLoss ou perda de dobradiça . Está certo, mas também gostaria de usar o softmax, mas com apenas duas
No livro de Goodfellow (2016) sobre aprendizado profundo, ele falou sobre a equivalência da parada antecipada à regularização de L2 ( https://www.deeplearningbook.org/contents/regularization.html página 247). A aproximação quadrática da função de custo é dada