Quais diretrizes devem ser seguidas para o uso de redes neurais com entradas esparsas

9

Tenho entradas extremamente esparsas, por exemplo, locais de determinados recursos em uma imagem de entrada. Além disso, cada recurso pode ter várias detecções (não tenho certeza se isso influenciará o design do sistema). Vou apresentar como uma imagem binária do canal k com pixels ON representando a presença desse recurso e vice-versa. Podemos ver que essa entrada é muito esparsa.

Portanto, existem recomendações ao usar dados esparsos com redes neurais, especificamente dados que representem detecções / locais?

neural-networks deep-learning sparse user3246971
fonte
Esta é uma pergunta interessante. se você encontrou uma resposta para sua pergunta, considere respondê-la. Caso contrário, revise sua pergunta com informações mais detalhadas sobre o problema que você está tentando solucionar. Além disso, densidade de esparsos da matriz.
NULL

Respostas:

2

Você pode tentar usar combinações de recursos para reduzir a dimensão do espaço de entrada. Tipo da abordagem word2vec na PNL, parece que poderia ser aplicada no seu caso, pois seus recursos são binários (Ativado / Desativado).

Miguel
fonte