Quais são as teorias atuais sobre o desenvolvimento de uma IA consciente?

24

Quais são as teorias atuais sobre o desenvolvimento de uma IA consciente? Alguém está tentando desenvolver uma IA consciente?

É possível que a consciência seja um fenômeno emergente, ou seja, assim que colocarmos complexidade suficiente em nosso sistema, ela se tornará autoconsciente?

Micky-D
fonte
Supondo que a organização cognitiva reconheçamos abstratamente a consciência desenvolvida como resultado das leis físicas da evolução da vida. E, apesar de ser uma questão de chance, era inevitável como qualquer evento com probabilidade se aproximando de um, mesmo que a rota exata para chegar lá seja imprevisível. Nesse caso, isso sugere que a criação artificial de um ambiente digital que simula os componentes essenciais do ambiente que deram origem à nossa consciência poderia ser usada para evoluir a consciência "artificial". (continuação ...)
Craig Hicks
(.... cont) Comprimir uma vida inteira de materiais educacionais acadêmicos humanos para alguns milissegundos parece totalmente plausível. Que tal um milhão de anos de evolução da cognição em um dia ou dois em um supercomputador? Eu argumentaria que a simulação do ambiente é a chave, e as leis da evolução cuidarão do resto. A simulação do ambiente é o tipo de tarefa que os humanos poderiam atacar metodicamente e, no limite, ter sucesso com a inevitabilidade da Lei de Moore.
Craig Hicks
A recursão foi proposta por Rajaneimi, e eu encontrei vários trabalhos de ciências cognitivas sobre o tópico sobre seres humanos, mas ainda estou procurando trabalhos discutindo isso em termos de consciência algorítmica.
DukeZhou

Respostas:

28

Para responder a essa pergunta, primeiro precisamos saber por que é difícil desenvolver IA consciente. A principal razão é que não há definição matematicamente ou rigorosa de consciência. Claro que você tem uma idéia da consciência enquanto a experimenta e podemos falar sobre zumbis filosóficos, mas não é um conceito tangível que possa ser decomposto e trabalhado. Além disso, a maioria das pesquisas atuais em IA é basicamente uma abordagem pragmática, na qual se tenta construir um modelo que possa ter um bom desempenho de acordo com alguma função de custo desejada. Este é um campo muito grande e empolgante e abrange muitos problemas de pesquisa e cada nova descoberta é baseada em teoria matemática ou em evidências empíricas de um novo algoritmo / construção de modelo / etc. Por causa disso,

Portanto, para responder à sua pergunta, ninguém está tentando criar uma IA "consciente" porque ainda não sabemos o que essa palavra significa, no entanto, isso não impede as pessoas de falar sobre ela.

Jaden Travnik
fonte
"... a IA consciente é difícil [porque] não há definição matematicamente ou rigorosa de consciência". A consciência humana evoluiu com um bom desempenho, de acordo com algumas funções de custo, especificamente a capacidade de sobreviver no nível individual e de grupo. Portanto, esse método de desenvolvimento tem um histórico. Por outro lado, o desenvolvimento planejado para atender a uma definição matemática de consciência não tem histórico.
Craig Hicks
@CraigHicks Talvez eu não tenha entendido o que você quis dizer, mas você quer dizer que o sucesso evolutivo é um indicador da consciência. Se é isso que você quis dizer, devo discordar. Existem organismos vivos que não são considerados autoconscientes, mas são extremamente bem-sucedidos de um ponto de vista evolutivo (vírus e bactérias, ou algumas plantas, por exemplo).
Lorenzo Donati apóia Monica
2
@CraigHicks Podemos desenvolver uma IA que possa ser considerada consciente. Mas, a menos que tenhamos uma grande inovação conceitual e filosófica, acontecerá por acaso e por sorte. Isso porque enquanto não sabemos como poderíamos definir "consciência" (além de "provavelmente saberemos quando a virmos"), não há como saber como podemos projetar uma máquina com potencial de propósito. para exibi-lo.
Arthur
2
Claramente, a maneira mais direta de criar uma IA consciente foi acidentalmente escrita por Yudkowsky: Coloque uma IA em uma caixa e agite-a um pouco. Se isso o convence a deixá-lo fora da caixa, você provavelmente perdeu =)
Cort Ammon - Restabelece Monica
1
Concordo que é totalmente possível fazê-lo por acidente, a questão é que, semelhante a um argumento filosófico sobre zumbis, ainda não há um teste para dizer que algo realmente aconteceu. Pessoalmente, não acho que exista esse tipo de teste e, por esse motivo, é provável que seja mais educado com seus chatbots e assistentes pessoais no futuro próximo, caso você machuque os sentimentos deles. "Obrigado siri".
Jaden Travnik
7

O que é consciência? Existem alguns desafios reais em estabelecer a consciência como uma meta, porque ainda não temos muita compreensão científica de como o cérebro o faz ou que equilíbrio precisa haver entre memória de longo prazo, memória de curto prazo, implícita trabalho de interpretação, os modos conscientes contrastantes de processamento automático e processamento deliberado (S1 e S2 de Khanemann). John Kihlstrom (psicólogo emérito de Berkeley) tem uma palestra sobre Consciência disponível no iTunesU que você pode conferir. Carnegie-Mellon Uni tem um modelo chamado ACT-R, que modela diretamente comportamentos conscientes, como prestar atenção.

O que pode limitar nossa compreensão disso? A filosofia estuda a questão da consciência há muito tempo. Pessoalmente, gosto de Hegel e Heidegger (filósofos). Ambos são muito difíceis de ler, mas Heidegger (interpretado por Hubert Dreyfus) utilmente criticou o 'Good Old-Fashioned AI' projectos dos anos setenta e apontou como muitotrabalho lá é apenas interpretar uma entrada visual. Hegel é frequentemente criticado, mas, para vê-lo bem interpretado, confira as palestras de Robert Brandom com a LMU sobre a lógica da consciência e Hegel como um dos primeiros pragmatistas de Sellers. Se a consciência quer se apossar da verdade e da certeza, ela empreende "um caminho de dúvida, ou mais propriamente uma estrada de desespero", ao longo da qual nunca se coloca acima da correção. Há algo no tratamento da consciência por Hegel em termos recursivos, sem sucumbir a uma regressão cruel, que acho que será confirmada antes do final.

Desenvolvimentos recentes. As abordagens de Aprendizado Profundo e os sucessos pragmáticos do presente são empolgantes, mas será interessante ver até onde eles podem ir na integração e generalização necessariamente dos pequenos conjuntos de informações às quais as mentes humanas reais estão expostas. Embora o Deep Learning e a mineração de dados sejam extremamente visíveis, abordagens simbólicas também estão por aí, ainda melhorando e variando. Mas há uma falta de interpretação teórica abrangente que permita generalizações.

Duas grandes teorias. Se eu tivesse que escolher um projeto que eu pensei que vale a pena assistir para, Giulio Tononi (et al) criaram uma muito agradável modernização do problema em ' Teoria da Informação Integrada ' Mas você pode querer estender isso com algo como Rolf Pfeifer 's' Como o corpo molda a maneira como pensamos ', porque algumas das' informações integradas 'estão implícitas em ter braços e pernas, olhos e nariz (colocados ali pelas informações que acumulam trabalho de evolução). Mas há muito trabalho bom que tem sido pronto - os profissionais estão escrevendo papéis mais rápido do que eu consigo lê-los.

Mais específico à sua pergunta, existem tentativas de simular cérebros humanos na esperança de que o objetivo geral ajude a financiar pesquisas e a produzir respostas para cada parágrafo acima.

Atcrank
fonte
Li um artigo interessante e honesto de Douglas Hofstadter no The Atlantic ( theatlantic.com/technology/archive/2018/01/… ) criticando o uso do termo "Deep Learning" para se referir ao programa de tradução do Deep Learning do Google e usando entretenimento exemplos para mostrar a falta de compreensão verdadeira dos programas. Ele argumentou de forma convincente que uma boa tradução do idioma não será possível sem antes desenvolver uma IA consciente.
Craig Hicks
1
Sim, eu não acho que alguém consciente cometa esse erro abaixo, embora eu possa imaginar um tradutor às vezes incapaz de entender melhor com termos de arte misteriosos. É a falta de autoconsciência na saída: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
Sobre a primeira parte: Meu antigo professor de IA costumava dizer que perguntar se os computadores podem pensar é como perguntar se os submarinos nadam. A resposta depende de como você deseja definir "nadar" mais do que o que a máquina está realmente fazendo.
TED
2

O CERA-CRANIUM é um exemplo para uma arquitetura cognitiva para gerar Consciência da Máquina (MC). Em relação ao comportamento consciente em personagens de jogos de computador, 2009 Foi realizado como um sistema de quadro-negro capaz de executar tarefas encadeadas. A implementação em si trabalha com linguagem natural. Isso significa que um agente CERA-CRANIUM possui uma variável chamada "Estou com medo" e, se essa variável estiver configurada como True, a emoção será ativada. Portanto, não é uma consciência real, mas tem mais em comum com os estados internos dos personagens de "The Sims".

O aspecto interessante é que a "consciência da máquina" não é tão esotérica quanto parece. O estudioso do Google encontra cerca de 3 mil artigos sobre o assunto. Na maioria dos casos, o desenvolvimento começa com o objetivo de implementar emoções para os personagens do jogo que mais tarde foram estendidas a pensamentos gerais em um ser humano virtual.

Manuel Rodriguez
fonte
Não seria engraçado se a verdadeira "vida" da IA ​​se desenvolvesse (evolui?) Não a partir de pesquisas, mas ad-hoc por escritores de software de jogos que tentam ganhar dinheiro.
Craig Hicks
@CraigHicks: você quer dizer, como em Friendship is Optimal ?
vsz 12/02
2

Além da excelente resposta de Jaden, "ninguém está tentando criar uma IA" consciente "porque ainda não sabemos o que essa palavra significa" Eu gostaria de acrescentar que a palavra "ainda" é altamente otimista.

É altamente problemático e provavelmente impossível distinguir entre um ser consciente e um ser que se comporta exatamente como se fosse consciente. Os filósofos têm lutado com isso há séculos; alguns até adotaram o solipsismo, que é uma filosofia "eu vivo na matriz". Em particular, como você pode dizer se seu amigo de infância, seu cônjuge ou qualquer outra pessoa é um ser consciente, e não uma personificação da IA ​​que age exatamente como um ser consciente faria?

É possível, é claro, seguir o caminho "se andar como um pato e grasnar como um pato, então é um pato". Nesse caso, um teste de Turing aprovado na IA seria automaticamente considerado consciente. No entanto, a maioria das pessoas não aceitaria os critérios básicos de consciência; caso contrário, eles logo teriam que chamar seus aparelhos domésticos com Alexa de consciência.

Meus dois centavos são basicamente os mesmos que os de Jaden, exceto que eu sou mais pessimista em entender o que é a consciência.

Michael
fonte
Acho que o Teste do Pato é suficiente se uma IA passar em um Teste de Turing completo, administrado por adultos inteligentes. (Meu problema com a sala chinesa é que ela se baseia em qualia, e suspeito que a única maneira de validar a qualia de outra entidade é se tornar essa entidade.)
DukeZhou
Eu também poderia argumentar que qualquer percepção cumpre a definição mais básica de consciência, e a capacidade de tomar qualquer decisão baseada em informações satisfaz a definição mais básica de inteligência. Pelo que sabemos, a consciência pode ser apenas uma forma de meta-cognição e inteiramente uma função da complexidade do sistema.
DukeZhou
1

Consciência é a capacidade de estar ciente de seus próprios pensamentos, seus arredores imediatos, sentimentos e nada mais. É o mecanismo do nosso cérebro controlar nosso tipo inferior de pensamentos, aquele baseado em associações e emoções. Consciência é observar nossos pensamentos e sentimentos, assim como observamos o mundo real com nossos olhos. Não é complicado. A verdadeira questão não é se as máquinas são capazes de consciência, mas se são capazes de emoções.

Tom Škoda
fonte
Existem muitas espécies além dos humanos modernos que exibem emoções fortes. Essas emoções são instintivas - são muito importantes na definição de comportamentos sociais que aumentam a capacidade de sobrevivência e adequação do "grupo". Não vejo como a emoção humana é qualitativamente diferente da de outros mamíferos. Em contraste, a consciência humana é várias ordens de magnitude mais desenvolvidas em seres humanos do que as outras espécies mais próximas. Onde a emoção humana parece diferir de outras espécies, é apenas a capacidade de controlar a emoção através da consciência.
Craig Hicks
Esta resposta não faz sentido sem uma definição de 'seu'.
DrMcCleod 12/02
-1

Introdução : Atualmente, observamos que os sistemas atuais se tornam melhores em quase todas as tarefas especializadas que os humanos. Além disso, vemos que os cientistas trabalham para tornar os sistemas atuais também melhores em tarefas menos especializadas (a partir de: reconhecimento de letras, indo para: reconhecimento de animais, reconhecimento de espécies, reconhecimento de atividades, reconhecimento de imagens em movimento, etc.).

Conclusão : Não há razão para não acreditar que os sistemas auxiliados por redes neurais não se tornarão melhores em nenhuma tarefa no futuro.

Questão :

O que é consciência?

Eu acho que o problema atual sobre autoconsciência é um problema de definição. Não encontrei muita literatura sobre esse tópico, apesar de filosófica (que, infelizmente, é totalmente inútil nesse contexto).

Por falta de literatura, gostaria de fazer minha própria definição. Felizmente, sabemos pela observação que todos os animais classificados como "inteligentes" têm algum grau de "autoconsciência" e são curiosos. Da biologia, sabemos que a curiosidade é um mecanismo de motivação para um comportamento de observação / raciocínio / teste. Agora concluímos que a autoconsciência é obviamente o mesmo mecanismo aplicado aos seus próprios processos de comportamento / pensamento. Simplesmente imaginamos o possível resultado de uma determinada ação que podemos executar e a avaliamos.

Portanto, a consciência deve ser o resultado de um determinado sistema de motivação que favorece a curiosidade e um sistema de avaliação não especificado suficientemente complexo.

Meu palpite é que esse sistema de motivação é muito fácil de implementar. O problema atual é que simplesmente não existe um sistema suficientemente versátil para "resolver" uma tarefa. As redes atuais ainda são especializadas demais.


fonte
"Felizmente, sabemos a partir da observação de que todos os 'inteligentes' animais classificados têm algum grau de 'auto-consciência' Sua definição é circular..
DrMcCleod
Qual definição e como?
Você está tentando uma definição de 'consciência' a partir da ideia de que as criaturas são 'autoconscientes'. Você não pode ter uma definição que se baseie na existência a priori da coisa que está sendo definida. Além disso, você também não pode assumir que qualquer coisa que não seja você tem consciência, pois não temos como medir objetivamente.
DrMcCleod 12/02/19
consciência e autoconsciência são os mesmos e dependem do mesmo. qual deve ser a diferença?
autoconsciência e autoconsciência também são a mesma coisa. Não faz sentido lógico definir um termo referenciando-se. Você também pode definir um elefante dizendo que é um elefante.
DrMcCleod