http://cran.r-project.org/web/packages/quadprog/quadprog.pdf O pacote R quadprogparece ser capaz de resolver o problema de programação quadrática somente quando a matriz é definida positivamente.DDD No entanto, há um caso em que a matriz não é positiva definida. tal comoDDD min(x2+y2−6xy)subject...
Meu projeto atual pode exigir que eu construa um modelo para prever o comportamento de um determinado grupo de pessoas. o conjunto de dados de treinamento contém apenas 6 variáveis (id é apenas para fins de identificação): id, age, income, gender, job category, monthly spend em que monthly...
Venho brincando com a regressão logística com vários algoritmos de otimização de lote (gradiente conjugado, newton-raphson e vários métodos de quasinewton). Uma coisa que notei é que, às vezes, adicionar mais dados a um modelo pode tornar o treinamento do modelo muito menos demorado. Cada iteração...
Acabei de começar a usar o pacote de autoencoder em R. As entradas para a autoencode()função incluem lambda, beta, rho e epsilon. Quais são os limites para esses valores? Eles variam para cada função de ativação? Esses parâmetros são chamados de "hiperparâmetros"? Supondo que um autoencoder...
Existem muitas regras para selecionar uma largura ideal de compartimento em um histograma 1D (veja, por exemplo ) Estou procurando uma regra que aplique a seleção das larguras ideais de barras iguais em histogramas bidimensionais . Existe essa regra? Talvez uma das regras conhecidas dos...
Eu entendo onde a etapa E acontece no algoritmo (conforme explicado na seção de matemática abaixo). Na minha opinião, a principal engenhosidade do algoritmo é o uso da desigualdade de Jensen para criar um limite inferior à probabilidade do log. Nesse sentido, aceitar isso Expectationé simplesmente...
Eu estou tentando entender como funciona regularização em termos de projeções em um l∗l∗l_* bola, e projeção euclidiana para o simplex. Não sei ao certo o que queremos dizer quando projetamos o vetor de peso nas bolas ou .l 2l1l1l_1l2l2l_2 Eu posso entender o conceito de programa de regularização...
Estou executando algumas otimizações com a implementação do BFGS do optim. A função objetivo é na verdade um algoritmo computacional, não apenas matemática. Descobri que quando adiciono uma penalidade de L1, as coisas diminuem um pouco. Por que isso pode ser? Existe algo no L1 que atrasa as coisas?...
Estou testando a otimização bayesiana, seguindo Snoek, Larochelle e Adams [ http://arxiv.org/pdf/1206.2944.pdf] , usando GPML [ http://www.gaussianprocess.org/gpml/code/matlab / doc /] . Eu implementei a função de aquisição de melhoria esperada descrita na página 3, e estou assumindo que estou...
Ambos os processos parecem ser usados para estimar o valor máximo de uma função desconhecida, e ambos obviamente têm maneiras diferentes de fazer isso. Mas, na prática, um dos métodos é essencialmente intercambiável? Onde eu gostaria de usar um sobre o
Eu li os ótimos comentários sobre como lidar com valores ausentes antes de aplicar o SVD, mas gostaria de saber como ele funciona com um exemplo simples: Movie1 Movie2 Movie3 User1 5 4 User2 2 5 5 User3 3 4 User4 1 5 User5 5 1 5 Dada a matriz acima, se eu remover os valores de NA, acabarei...
Estou realmente confuso com o uso do solver na otimização computacional. Eu olhei em volta por um mês dentro e fora, para ver se consigo entender bem o que esse termo significa, mas ainda não o entendo bem. Parece que, se eu gostaria de resolver um problema de otimização no aprendizado de máquina...
Estou trabalhando em visão computacional e preciso otimizar uma função objetiva que envolve a matriz e a matriz é uma matriz ortogonal.XXXXXX maximize f(X)maximize f(X)maximize \ \ f(X) s.t XTX=Is.t XTX=I s.t \ \ X^T X=I Onde é a matriz da unidade. Estou lendo alguns artigos e eles falavam...
Em geral, se tivermos um grande conjunto de dados, podemos dividi-lo em (1) treinamento, (2) validação e (3) teste. Usamos a validação para identificar os melhores hiperparâmetros na validação cruzada (por exemplo, C no SVM) e, em seguida, treinamos o modelo usando os melhores hiperparâmetros com o...
Eu sou bastante novo em aprendizado de máquina e estatística, mas estava me perguntando por que a otimização bayesiana não é referida com mais frequência on-line quando se aprende que o aprendizado de máquina otimiza seus hiperparâmetros de algoritmo? Por exemplo, usando uma estrutura como esta:...
Estou tentando entender qual é a diferença entre o recozimento simulado e a execução de vários algoritmos gananciosos de escalada. Pelo meu entendimento, o algoritmo ganancioso aumentará a pontuação para um máximo local, mas se começarmos com várias configurações aleatórias e aplicá-lo a todas...
Uma função de caixa preta , que é avaliada pontualmente, sujeita a ruído gaussiano, ou seja, f ( x ) + N ( μ ( x ) , σ ( x ) 2 ) , pode ser minimizada usando a otimização bayesiana onde um gaussiano Processo é usado como um modelo de função barulhenta.f:Rn→Rf:Rn→Rf: \mathbb{R}^n \rightarrow...
Estou tentando ajustar um SVM aos meus dados. Meu conjunto de dados contém 3 classes e estou executando uma validação cruzada de 10 vezes (no LibSVM): ./svm-train -g 0.5 -c 10 -e 0.1 -v 10 training_data A ajuda afirma assim: -c cost : set the parameter C of C-SVC, epsilon-SVR, and nu-SVR...
Suponha que você tenha uma variável aleatória discreta com função de massa de probabilidade no suporte . Que função tal que maximiza Para evitar lidar com casos extremos, assuma .XXXp(x)=P(X=x)p(x)=P(X=x)p(x) = P(X=x)0,…,n0,…,n0,\ldots,nq(x)≥0q(x)≥0q(x)\ge 0∑nx=0q(x)=1∑x=0nq(x)=1\sum_{x=0}^n q(x)...
Uma pergunta foi postada aqui (agora excluída) em relação à estimativa dos parâmetros da distribuição triangular , que possui densidade f( x ; a , b , c ) =⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪0 02 ( x - a )( b - a ) ( c - a )2 ( b - x )( b - a ) ( b - c )0 0para x < a ,para um ≤ x ≤ c ,para c < x ≤ b ,para b...