Na verdade, estou escrevendo uma implementação do Random Forests, mas acredito que a pergunta é específica para as árvores de decisão (independentes dos RFs). Portanto, o contexto é que estou criando um nó em uma árvore de decisão e as variáveis de previsão e de destino são contínuas. O nó...
Alguém tem referência a um resumo das análises em tempo de execução para algoritmos comuns de aprendizado de máquina (diferentes tipos de NN, SVMs,
Tenho uma vaga noção do que é um método de passagem de mensagens: um algoritmo que constrói uma aproximação a uma distribuição, construindo iterativamente aproximações de cada um dos fatores da distribuição, condicionadas a todas as aproximações de todos os outros fatores. Acredito que ambos são...
Quais são os prós e os contras de aprender sobre as propriedades de uma distribuição algoritmicamente (através de simulações em computador) versus matematicamente? Parece que as simulações por computador podem ser um método de aprendizado alternativo, especialmente para os novos alunos que não se...
Como e por que os RNGs são importantes na estatística computacional? Entendo que a aleatoriedade é importante ao escolher amostras para muitos testes estatísticos, a fim de evitar distorções em relação a qualquer hipótese, mas existem outras áreas da estatística computacional em que os geradores...
Para avaliar o desempenho de um novo algoritmo classificador, estou tentando comparar a precisão e a complexidade (grande O no treinamento e classificação). No Machine Learning: uma revisão , recebo uma lista completa de classificadores supervisionados, também uma tabela de precisão entre os...
Eu pesquisei sobre k-means e é isso que obtive: k-means é um dos algoritmos mais simples que usa o método de aprendizado não supervisionado para resolver problemas conhecidos de agrupamento. Funciona muito bem com grandes conjuntos de dados. No entanto, também existem desvantagens do K-Means, que...
Pergunta: é possível treinar um NN para distinguir entre números pares e ímpares usando apenas como entrada os próprios números? Eu tenho o seguinte conjunto de dados: Number Target 1 0 2 1 3 0 4 1 5 0 6 1 ... ... 99 0 100 1 Treinei um NN com dois neurônios de entrada (um sendo a variável...
Possivelmente fora do tópico aqui, mas já existem várias ( uma , duas ) questões relacionadas. Pesquisando na literatura (ou uma pesquisa no Google por algoritmos SVD truncados) aparece muitos artigos que usam SVDs truncados de várias maneiras e afirmam (frustrantemente, muitas vezes sem citação)...
O objetivo do artigo era otimizar alguns parâmetros, maximizando a probabilidade logarítmica regularizada. Então eles calculam derivadas parciais. E os autores mencionam que otimizam a equação usando L-BFGS, um procedimento quase-Newton padrão para otimizar funções suaves de muitas variáveis (sem...
Talvez seja apenas porque estou cansada, mas estou tendo problemas para tentar entender o algoritmo Forward Stagewise Regression. Na página "Elementos da aprendizagem estatística", página 60: A regressão forward-stagewise (FS) é ainda mais restrita que a regressão forward-stepwise. Começa como...
Estou interessado em analisar várias métricas diferentes para algoritmos de classificação - existem algumas listadas na página da Wikipedia Learning to Rank, incluindo: • Precisão média média (PAM); • DCG e NDCG; • Precisão @ n, NDCG @ n, em que "@n" indica que as métricas são avaliadas apenas...
Atualmente, estou tentando valores simulados de um -dimensional variável aleatória que tem uma distribuição normal com média multivariada vetor e matriz de covariância .X μ = ( μ 1 , . . . , Μ N ) t SNNNXXXμ=(μ1,...,μN)Tμ=(μ1,...,μN)T\mu = (\mu_1,...,\mu_N)^TSSS Eu estou esperando para utilizar um...
Quais são os prós e os contras do uso do LARS [1] versus o uso da descida de coordenadas para ajustar a regressão linear regularizada por L1? Estou interessado principalmente em aspectos de desempenho (meus problemas tendem a ter Nentre centenas e milhares e p<20.) No entanto, quaisquer outras...
Eu tenho tentado aprender e aplicar modelos ARIMA. Tenho lido um excelente texto sobre o ARIMA da Pankratz - Forecasting with Univariate Box - Jenkins Models: Concepts and Cases . No texto, o autor enfatiza especialmente o princípio da parcimônia na escolha dos modelos ARIMA. Comecei a jogar com...
Eu escrevi algum código que pode fazer a filtragem Kalman (usando vários filtros do tipo Kalman [Information Filter et al.]) Para a Análise Linear Gaussiana de Espaço de Estado para um vetor de estado n-dimensional. Os filtros funcionam muito bem e estou obtendo uma saída agradável. No entanto, a...
Pelo visto, a análise de Fisher visa maximizar simultaneamente a separação entre classes, enquanto minimiza a dispersão dentro da classe. Uma medida útil do poder de discriminação de uma variável é, por conseguinte, dada pela quantidade diagonal: Bii/WiiBii/WiiB_{ii}/W_{ii}...
Alguém pode me explicar os benefícios do algoritmo genético em comparação com outros métodos tradicionais de pesquisa e
Esta pergunta já tem respostas aqui : Algoritmo de retropropagação (2 respostas) Fechado há 2 meses . O que é o algoritmo de retropropagação e como ele
Sei como executar o PCA (análise de componentes principais), mas gostaria de saber as etapas que devem ser usadas para a análise fatorial. Para executar o PCA, vamos considerar uma matriz , por exemplo:UMAUMAA 3 1 -1 2 4 0 4 -2 -5 11 22 20 Eu calculei sua matriz de correlação B = corr(A):...