A singularidade é algo a ser levado a sério?

10

O termo Singularidade é frequentemente usado na mídia convencional para descrever a tecnologia visionária. Foi introduzido por Ray Kurzweil em um livro popular The Singularity Is Near: When Humans Transcend Biology (2005).

Em seu livro, Kurzweil apresenta uma perspectiva de um futuro potencial da humanidade que inclui nanotecnologia, computadores, modificação genética e inteligência artificial. Ele argumenta que a lei de Moore permitirá aos computadores um crescimento exponencial que resulta em uma superinteligência.

A singularidade tecnológica é algo levado a sério pelos desenvolvedores de IA ou essa teoria é apenas uma carga de hype popular?

Bucky Rogerson
fonte
O debate em torno da singularidade é um subtópico no chamado movimento neoludita. Esse é um debate filosófico sobre o avanço da tecnologia com uma perspectiva pessimista. Bill Joy publicou um famoso ensaio nos anos 2000, no qual argumenta contra a tecnologia. O movimento neoludita é algum tipo de anti-ideologia para o pensamento mais forte, mais rápido e inteligente do Vale do Silício. Singularidade é uma mistura de ideologia pró e contra tecnologia, com o objetivo de moderar o debate.
Manuel Rodriguez
2
Acho que você terá muita dificuldade em encontrar uma base científica sólida relacionada à IA que sugira que a Singularidade seja remotamente possível.
Andreas Storvik Strauman
Você pode estar interessado nesta seção de
Neil Slater

Respostas:

8

Posso dizer que entre os pesquisadores de IA com quem interajo, é muito mais comum vê-lo como especulação selvagem do que como fato consumado.

Isso é confirmado por pesquisas de pesquisadores de IA , com 80% pensando que formas fortes de IA surgirão em "mais de 50 anos" ou "nunca", e apenas alguns por cento acham que essas formas de IA estão "próximas".

Os desenvolvedores de software não são os mesmos que os pesquisadores de IA, e eu descobri que o mito da Singularidade é muito mais difundido entre os desenvolvedores. Ele tem um toque legal: os computadores estão ficando mais rápidos, em algum momento eles serão mais rápidos que os cérebros; nesse ponto, apenas simulamos cérebros. Logo depois, simulamos algo melhor que o cérebro.

Suspeito que as razões pelas quais os pesquisadores de IA sejam menos otimistas estejam enraizadas no fato de ainda não termos um bom entendimento da inteligência humana, ou mesmo o suficiente do cérebro para simulá-lo. Por exemplo, nas últimas duas semanas, descobrimos tipos desconhecidos de células cerebrais . Isso dá a impressão (correta) de que, mesmo se tivéssemos um computador rápido o suficiente, não estamos nem perto de simular com precisão um cérebro humano. Nós realmente não sabemos o que é um cérebro humano.

Mesmo se soubéssemos disso, as simulações são necessariamente com perdas. Podemos não ter boas técnicas de simulação. Mesmo se tivéssemos boas técnicas, podemos simular o cérebro e descobrir que nossa simulação não se comporta como o esperado por razões que não entendemos. Isso é muito provável ao simular novos sistemas. Em certo sentido, os defensores da Singularidade se assemelham às pessoas prevendo que o controle do tempo estava próximo na década de 1940. Afinal, já poderíamos simular padrões climáticos simples e gerar previsões que funcionassem. Quão mais complexo seria realmente gerar previsões perfeitas?

John Doucette
fonte
2
Essa afirmação parece o começo de um inverno próximo da IA, no qual os pesquisadores rejeitam seus sonhos de construir máquinas inteligentes e admitem que não têm nada a oferecer. Acho que podemos descrever a realidade um pouco mais otimista. No projeto Blue brain, a imortalidade é um dos objetivos, e pode ser alcançado com nanobots. Eles são capazes de copiar a mente de um cérebro para outro. Segundo os futuristas, isso se tornará realidade no ano de 2030. Pelo menos a União Européia acredita que isso faz sentido e apóia o projeto com US $ 1 bilhão. Essa quantidade é séria o suficiente?
Manuel Rodriguez
2
@ManuelRodriguez Acho que não é tanto um inverno, mas uma visão realista e madura da tecnologia. Nós realmente podemos e realmente estamos resolvendo muitos problemas difíceis com a IA no momento. Não é razoável pular disso para a imortalidade, nanobots e cópias do cérebro. Talvez tenhamos coisas assim eventualmente, mas essas tecnologias não estão nem perto de funcionais. O apoio à pesquisa básica para eles é bom, mas não é como se a IA estivesse com pouco financiamento nos anos 50 e 60. Gastar dinheiro não significa que teremos imortalidade e cérebros clonados em 10 anos. A ideia é risível.
John Doucette
Não estou dizendo que acredito pessoalmente na imortalidade dentro de 10 anos. Eu só quero deixar claro que os projetos de “emulação do cérebro inteiro”, como o EU Brain Brain Project (1 bilhão de dólares), a iniciativa US BRAIN (4,5 bilhões de dólares no total) e o China Brain Project (200 milhões de dólares) têm singularidade como seu objetivo. O governo não gastaria tanto em pesquisa se tivesse dúvidas de que os Nanobots são possíveis.
Manuel Rodriguez
@ManuelRodriguez Claro que sim. Mesmo um projeto fracassado que custa muito dinheiro pode resultar em pesquisas muito valiosas.
forest
3

Há pelo menos um cientista de IA muito importante e sério que aparentemente acredita na criação da verdadeira inteligência geral artificial e possivelmente superinteligência: Jürgen Schmidhuber, co-autor do LSTM , entre muitas outras contribuições importantes. De fato, ele recentemente fundou a NNAISENSE para esse objetivo final, ou seja, construir uma inteligência geral artificial de uso geral. Em sua palestra Quando máquinas criativas superam o homem , no TEDxLausanne, Schmidhuber fala sobre a singularidade (também conhecida como ômega ). Veja também o artigo na web O histórico está convergindo? Novamente? (2012) ou o artigo2006: Comemorando 75 anos de IA - História e Perspectivas: os próximos 25 anos (2007).

nbro
fonte
Isso é verdade, mas ele definitivamente é a minoria dos pesquisadores de IA sobre isso. É verdade que Schmidhuber é bem credenciado, mas não acho que a maioria dos pesquisadores de IA leve a sério suas opiniões sobre esse elemento da IA.
John Doucette
1
@JohnDoucette Sim, eu concordo com você. Eu só queria destacar esse interessante caso excepcional.
nbro
0

Para ficar na mesma página, você deve fornecer referências sobre a "singularidade tecnológica", pois ela abrange vários campos (matemática, estatística, filosofia da ciência, epistemologia, sociologia, política, economia, para citar alguns).

Geralmente, quando você considera conceitos relacionados a adj + ai (em que adj = {fraco, forte, cheio, estreito, ...}), o fôlego da especulação é bastante grande e fieri , como um desenvolvedor (onde para o desenvolvedor I suponha que você trabalhe com problemas relacionados à codificação, não ao gerente de projetos do google xe similares) Eu não ficaria preocupado, a menos que você esteja tomando uma xícara de chá com seus colegas durante um intervalo.

Ale
fonte