Como depurar, entender ou corrigir o resultado de uma rede neural?

Parece bastante incontroverso dizer que as abordagens baseadas em NN estão se tornando ferramentas bastante poderosas em muitas áreas da IA ​​- seja reconhecendo e decompondo imagens (rostos na fronteira, cenas de rua em automóveis, tomada de decisão em situações complexas ou incertas ou com dados...