Como os algoritmos evolutivos têm vantagens sobre os métodos de contrapropagação convencionais?

Respostas:

6

Diferentemente da retropropagação, os algoritmos evolutivos não exigem que a função objetivo seja diferencial em relação aos parâmetros que você deseja otimizar. Como resultado, você pode otimizar "mais coisas" na rede, como funções de ativação ou número de camadas, o que não seria possível na retropropagação padrão.

Outra vantagem é que, ao definir as funções de mutação e cruzamento, você pode influenciar como o espaço de pesquisa de parâmetros deve ser explorado.

Franck Dernoncourt
fonte
5

Além da resposta de Franck, pode haver ótimos ótimos (até ótimos globais) que existem na direção oposta ao gradiente (que pode estar na direção de alguns ótimos locais). Os algoritmos evolutivos têm escopo para pesquisar a área circundante, enquanto a retropropagação sempre se move na direção do gradiente. Sem garantia (devido à sua aleatoriedade), os algoritmos evolutivos podem ser capazes de encontrar soluções que a retropropagação simplesmente não pode.

Tim Atkinson
fonte