Uma rede neural é um gráfico ponderado direcionado. Estes podem ser representados por uma matriz (esparsa). Fazer isso pode expor algumas propriedades elegantes da rede.
Essa técnica é benéfica para examinar redes neurais?
neural-networks
catraca arrepiante
fonte
fonte
Respostas:
Para RNAs grandes, algo equivalente a um 'formato de matriz esparsa' é usado na prática.
Em contraste com o que é dito em outra resposta dada, considerar uma RNA como um gráfico na verdade não compra muito, por dois motivos:
O algoritmo de retropropagação pode ser útil em termos de operações de matriz. Esta página fornece uma descrição legível e abrangente.
Todas as matrizes com valor real podem ser representadas como gráficos, mas o inverso claramente não é o caso. Portanto, embora seja verdade que uma RNA possa ser considerada como um caso especial de uma estrutura de dados de gráficos, tornar essa especialização explícita na forma de matriz é mais eficiente.
fonte
Depende do tipo de redes neurais com as quais você está lidando.
Para redes neurais de tamanho médio, a abordagem matricial é uma maneira muito boa de fazer cálculos rápidos e até retropropagação de erros. Pode-se até explorar matrizes esparsas para entender a arquitetura esparsa de algumas redes neurais.
Mas, para redes neurais muito grandes, o uso de cálculos matriciais seria computacionalmente muito intensivo. Portanto, métodos relevantes, como lojas baseadas em gráficos, etc, são usados para eles, dependendo da finalidade e da arquitetura.
fonte
A representação matricial é benéfica para a implementação de redes neurais em silício.
Mas, para examinar empiricamente as redes neurais, às vezes é bom visualizar os valores de peso da sinapse como imagens ou vídeos: a exploração de Jason Yosinski de uma rede neural de convolução. A rede parece ter um "filtro" que apenas detecta os ombros. Um pouco como uma fechadura que só se abre quando reconhece o padrão dos ombros.
fonte