Agora estou lendo um livro intitulado Hands-On Machine Learning com Scikit-Learn e TensorFlow e, no capítulo 10 do livro, o autor escreve o seguinte:
A arquitetura das redes neurais biológicas (BNN) 4 ainda é objeto de pesquisa ativa, mas algumas partes do cérebro foram mapeadas, e parece que os neurônios são frequentemente organizados em camadas consecutivas, como mostra a Figura 10-2.
No entanto, parece não haver link para nenhuma pesquisa lá. E o autor não disse assertivamente, uma vez que usou " parece que os neurônios são frequentemente organizados em camadas consecutivas" .
Isso é verdade e com que força se acredita? De que pesquisa é essa?
artificial-neuron
biology
Blaszard
fonte
fonte
Respostas:
Resposta muito curta: sim
Resposta um pouco mais longa: meio
Resposta longa:
As redes neurais convolucionais (CNNs), que agora são padrão nos modelos de processamento de imagens, foram inspiradas no trabalho realizado por Hubel e Wiesel nos anos 1950-60. Eles mostraram que os córtex visual de gatos e mokeys contêm neurônios que respondem individualmente a pequenas regiões do campo visual.
Para dar uma ideia, temos que começar pelas hastes e cones nos olhos. Essas células fotossensíveis são conectadas a algumas camadas de células antes mesmo de sair da retina via células ganglionares.
Essas células ganglionares são então conectadas a várias regiões do cérebro, mas principalmente ao lobo occipital localizado na parte traseira do cérebro. O lobo occipital é responsável pelo processamento visual e é separado em camadas corticais, o primeiro chamado V1, que é a área visual primária. A maior parte do trabalho de Hubel e Wiesel envolveu células na V1 e mostrou como essas células eram sensíveis à orientação e cor de suas respectivas áreas receptivas na retina.
As células em V1 são conectadas às células em V2, que são sensíveis a estímulos ainda mais específicos, como movimento com orientação, e essa tendência de sensibilidade específica continua de V2 para regiões mais altas do cérebro.
Essa abordagem em camadas da visão tem sido muito explorada nas CNNs, tanto que quando a sensibilidade dos neurônios nas CNNs treinadas é exibida, respostas semelhantes (orientação) são encontradas.
Há evidências claras de camadas em sistemas ópticos biológicos e estruturas em camadas semelhantes nos outros sentidos. Embora existam muitas conexões entre diferentes estruturas cerebrais, a principal estrutura de camadas do cérebro ajudou a entender o que diferentes áreas do cérebro fazem e a inspirar muitos (se não todos) avanços na pesquisa de redes neurais.
fonte
Os neurônios biológicos são organizados em camadas consecutivas?
Abraçando a realidade da complexidade
Dizer "Sim" seria uma simplificação grosseira, assim como o aprendizado digital decorrente de alguma forma simples de recursão aplicada a um conjunto de regras lógicas de predicados de primeira ordem foi como correr ao longo do arco-íris de um duende até o pote de ouro.
O conjunto final de perguntas é apropriado: "Isso é verdade e com que força se acredita? De que pesquisa se trata?" Você precisaria de uma pesquisa para determinar com que intensidade acredita-se que os neurônios do cérebro estejam em uma estrutura predominantemente em camadas. As referências a camadas na pesquisa real não parecem afirmar que as camadas são consecutivas na maioria dos casos, se é que existem. Existem camadas consecutivas na pele, mas a pele com apenas camadas não possui poros, cabelos, interfaces com orifícios corporais e muitas outras características. No cérebro humano (ou no cérebro de animais), a complexidade tridimensional é consideravelmente aumentada da da pele.
Seria bom, do ponto de vista do pesquisador de IA, se
A imagem fornecida na pergunta não ilustra essa simplicidade. Na verdade, ilustra o contrário, que a natureza raramente é tão transparente em seus meandros.
A caracterização, "Como parece que os neurônios geralmente são organizados em camadas consecutivas", não é precisa. A caracterização abaixo mais razoável da fatia específica mostrada indica duas regiões que podem ser discretamente distintas, a grade nos 8% mais à esquerda e a conexão amplamente horizontal nos 92% restantes.
Um engenheiro elétrico ou matemático provavelmente não chamaria essas duas seções de camadas. O lado esquerdo pode ser considerado uma matriz de alguma forma e os 92% direitos podem ser considerados um circuito de processamento complexo.
Caracterização da estrutura 2D
Outra imagem com estrutura caótica
Milhões de vezes a complexidade
Considere ainda que grande parte da complexidade está oculta do espectador em uma única fatia de uma estrutura neurológica tridimensional. Se decidirmos arbitrariamente que a imagem é uma fatia cortada em paralelo com o plano xz, podemos ver as relações nesse plano xz, mas nem no xy nem no yz. Qualquer outra fatia de outra direção ou localização no cérebro será tão única quanto uma janela arbitrária no conjunto Mandelbrot.
Mais deturpação dos resultados da pesquisa
A frase "Algumas partes do cérebro foram mapeadas" também é enganosa. A conectividade geral entre subestruturas do cérebro humano foi mapeada, não os sinais e critérios de propagação e força do sinal em neurônios individuais. Os circuitos diferem radicalmente no nível dos neurônios entre dois cérebros, ambos exibindo inteligência in vivo (em um ser vivo).
A analogia é como uma pessoa do tamanho de um micróbio com um mapa de continentes, grandes cidades e rotas de navegação, mas sem conhecimento prévio de sistemas de transporte, sem GPS e nenhum outro mapa detalhado que deseje viajar da torre Eiffel até o centro da cidade em Sidney na Austrália. Existe um conjunto insuficiente de evolução do sistema de transporte ou instruções detalhadas com as quais a jornada pode ser feita com sucesso.
No caso de atingir um nível de detalhe na estrutura e função dos cérebros humanos suficientes para criar uma versão eletrônica de uma, as peças que faltam incluem a falta de compreensão das
Camadas e hierarquias
É comum na ciência procurar camadas ou hierarquias para usar na educação e na prática, porque elas podem auxiliar na compreensão da estrutura anatômica. Essa tendência apareceu na engenharia de software no design de sistemas operacionais, design de linguagem de programação, design de aplicativos e agora design de IA. À medida que essas áreas de tecnologia evoluem, a tendência é, na verdade, passar do design hierárquico ou orientado para a camada pura para uma rede mais irrestrita de peças interconectadas. A simplicidade é desejada, mas a complexidade às vezes é necessária.
Simular a inteligência é um objetivo exigente e, com a simplicidade falhada no primeiro meio século de tentativa de projetar sistemas digitais inteligentes, é claro que as soluções de trabalho exigirão complexidade e, portanto, considerável conhecimento.
É razoável supor que não há restrições que guiem a evolução da inteligência humana na direção da estrutura caracterizada principalmente por camada ou estrutura hierárquica. Os processos evolutivos não percebem a simplicidade com o objetivo de facilitar o estudo acadêmico. Não há nada na expressão gênica do DNA ou nas maneiras pelas quais os neurônios crescem nos estágios fetais ou posteriores que imporiam tais regras de simplicidade na estrutura ou na função.
Quão complexas são as expressões de DNA que levam a características do cérebro que consideramos inteligência? Quão complexos são os sistemas neurais que surgem nessas expressões? Alguns acreditam que a humanidade terá que evoluir antes que as mentes humanas possam se simular. Tal conjectura pode ser verdadeira ou falsa. É difícil prever isso, mesmo em ordem de magnitude.
Análise Numérica de Predição Otimista
A expectativa de crescimento exponencial foi proposta para expectativa de vida, capacidade instalada de painéis solares na Alemanha, velocidade da CPU (execuções de instruções por microprocessador por segundo), densidade de transistores ("Lei de Moore"), tamanho do Partido Comunista e muitas outras métricas, mas, embora as taxas de crescimento na natureza e os esforços humanos sejam frequentemente exponenciais nos estágios iniciais, isso nunca se provou sustentável. As taxas de crescimento são aproximadamente lineares por um curto período depois e se tornam mais tangentes ao arco à medida que a saturação se aproxima. A partir da saturação, os valores da métrica tendem a declinar e aumentar em caos e começam em longos intervalos de tempo.
Em abril de 2005, Gordon Moore (autor da "Lei de Moore") declarou: "[O crescimento exponencial] não pode continuar para sempre. A natureza dos exponenciais é que você os expulsa e, eventualmente, um desastre acontece". Mais tarde, ele declarou: "Em termos de tamanho [de transistores], você pode ver que estamos nos aproximando do tamanho de átomos, o que é uma barreira fundamental".
É importante entender que Moore não inventou uma lei. Ele olhou mais de duas décadas de dados e densidade transistor notei foi aproximadamente proporcional e t , onde t é o tempo decorrido desde circuitos integrados mercado de massa primeiro atingido, e então previu mais crescimento exponencial com base nos dados de tendências claras.
Previsão realista
Os seres humanos nunca tentaram algo tão fundamentalmente quebrar o limiar quanto criar uma simulação do eu. Sem experiência relacionada a partir da qual saber se crescimento exponencial, crescimento linear, crescimento tangente ao arco ou alguma outra forma é o modelo mais provável, o modelo mais seguro é provavelmente o que a Navalha de Occam prescreveria, uma previsão linear.
Para fazer qualquer previsão, é preciso coletar alguns pontos de dados. Embora seja uma previsão realista, não é muito diligente. Talvez mais trabalho possa ser feito para encontrar um modelo mais provável que o linear, desenvolver um sistema de teoria e métricas para determinar o progresso a qualquer momento ou coletar mais pontos de dados para estabelecer um ajuste mínimo. Para os fins desta resposta, simplesmente usaremos dois pontos de dados e faremos uma extrapolação linear.
Em 1660, Blaise Pascal escreveu em seus Pensées ("Pensamentos"): "A máquina aritmética produz efeitos que se aproximam mais do pensamento do que todas as ações dos animais. Mas não faz nada que nos permita atribuir vontade a ele, como animais ", então a busca por simulações mecânicas da inteligência humana já estava em andamento naquele momento.
Desde então, os programadores de computador desenvolveram código que realiza várias capacidades humanas.
Os recursos ausentes das atuais simulações digitais de inteligência dos sistemas digitais são importantes e numerosos.
Como esta lista é resumida e esses itens que ainda não foram alcançados em software não são tão mecanicamente descritíveis em linguagem natural quanto os que já foram programados com sucesso, podemos ter certeza de que em 2017 temos sistemas digitais que alcançaram apenas uma fração da amplitude dos recursos do conjunto completo que as pessoas esperam de um ser humano sem chamar a pessoa de desafiada mentalmente. A julgar pela lista de realizações, não mais de 10% do que as pessoas inteligentes fazem foi simulado por software de computador.
Sem qualquer motivo para acreditar que a taxa de descoberta diminuirá ou aumentará (apesar das alegações de que o avanço humano tenha sido exponencial 1 ), uma aproximação linear simples coloca o cérebro eletrônico relativamente completo no horizonte para o ano 5.587.
fonte