A consciência é necessária para qualquer tarefa de IA?

É difícil definir a consciência , mas para esta questão, vamos defini-la como "realmente experimentando informações sensoriais em vez de apenas colocar um monte de dados em uma máquina inanimada". Os humanos, é claro, têm mentes; para computadores normais, tudo o que "veem" são apenas mais dados. Em alternativa, pode-se dizer que os seres humanos são sencientes , enquanto os computadores tradicionais não.

Deixando de lado a questão de saber se é possível construir uma máquina senciente, isso realmente faz diferença se uma IA é senciente ou não? Em outras palavras, existem tarefas que se tornam impossíveis - e não apenas mais difíceis - por falta de senciência?

Ninguém sabe.

Motivo: porque não é possível determinar formalmente mesmo se seus companheiros seres humanos são realmente conscientes (eles podem ser o que é filosoficamente chamado de 'zumbi' ). Nenhum teste conhecido pela física moderna é suficiente para decidir. Portanto, é possível que você seja o único ser senciente, e todo mundo é um robô.

Consequentemente, não podemos determinar quais tarefas requerem sensibilidade.

Observe que o status ontológico dos zumbis é controverso: alguns filósofos da IA ​​(por exemplo, Daniel Dennett) afirmam que os zumbis são logicamente impossíveis, enquanto outros, como David Chalmers , afirmam que um zumbi seria obrigado a afirmar que experimenta qualia (ou seja, senciente) mesmo que não. Aqui está um artigo muito legível de Flanagan e Polger que também explica por que uma versão neurológica mais forte do teste de Turing é insuficiente para detectar um zumbi.

EDIT: Em resposta ao comentário sobre se existe um teste objetivo para distinguir senciência de não senciência:

Ninguém sabe. O que não acredito é que isso exigiria algo além do que física moderna atualmente pode nos dizer. David Chalmers especulou que os qualia deveriam ser introduzidos como uma nova forma de unidade física, ortogonal aos demais da mesma maneira que a carga elétrica é ortogonal à distância.

Na ausência de um teste objetivo, temos que confiar nas variantes do teste de Turing, que não garantem mais consciência no sujeito do que inteligência.

Não.

A experiência de ver é, por definição, não causal. Qualquer coisa não causal não pode ser uma exigência de um processo físico; um qualia não pode permitir a um robô a capacidade de fazer algo que de outra forma não poderia.

Talvez.

Embora um qualia não seja necessário para uma determinada tarefa de IA, isso não significa que qualquer IA suficientemente avançada não envolva qualia. Pode ser que as chamadas tarefas completas de IA exijam um robô que, embora não faça uso de qualia, o produz de qualquer maneira.

Sim.

Qualia pode se referir a alguma propriedade não física insolente, mas é especial porque sabemos que ela existe fisicamente também. O fato de que eu sou capaz de discutir as minhas qualia conscientemente (ou, se você não acredita em mim, o fato de que você é capaz de) implica que o meu (ou seu) qualia tem um efeito físico.

É lógico que, se aceitamos os qualia dos outros com base nos nossos, deve ser por causa da base física dos nossos ¹ . Assim, alguém poderia argumentar que ² qualquer robô que tenha uma capacidade física equivalente deve envolver qualia.

¹ desde o subjetivo é fisicamente não-causal, portanto, não pode causar -nos a aceitar qualquer coisa.

² desde que você não faça a suposição particularmente estranha de que o qualia está de alguma forma ligado à sua manifestação física direta, que na melhor das hipóteses é tênue, pois, se tivéssemos evoluído o errado, você ainda diria que é o certo com igual certeza.

Vamos usar um teste simples, baseado no senso comum: com que frequência você vê um ser humano resolver problemas que exigem o uso da razão quando está inconsciente? Sim, você pode encontrar exemplos de gênios, como Ramanujan, resolvendo problemas complexos durante ou após um estado de sonho, mas esses envolvem consciência parcial. Você não vê caras como Einstein apresentando a teoria da relatividade enquanto estão em coma; os Pais Fundadores não escreveram a Declaração de Independência enquanto dormiam; na verdade, você nem consegue encontrar casos de donas de casa montando sua lista de compras para a semana durante um sono profundo em ondas delta. Isso se baseia em uma definição rígida de inteligência, exigindo o uso da razão; ninguém diz: "Essa mosca é inteligente" ou "esse esquilo é inteligente" precisamente porque nenhum deles é capaz de usar a razão. Essa é uma barreira muito alta para a IA, mas é a definição de senso comum usada por pessoas comuns como uma questão de praticidade, no discurso cotidiano. Da mesma forma, na prática, todos assumem que a consciência é necessária para o exercício desse tipo de inteligência.

Por outro lado, podemos chegar a outro critério baseado no senso comum para julgar objeções a esse argumento, particularmente o solipsista, com base em 3 elementos: 1) praticidade; 2) o efeito que as objeções têm sobre aqueles que as sustentam sinceramente; e 3) o efeito que ações baseadas nessas crenças têm sobre os outros. Vou levar vários parágrafos para fazer esse caso, mas o comprimento é necessário se eu quiser fazer o caso de uma maneira completa e completa. É verdade que não podemos provar que outro ser humano possui consciência, se nosso padrão é prova absoluta. De fato, não podemos fornecer prova absoluta de nada; sempre há espaço para alguma objeção, não importa quão ridícula ou insignificante. Como alguns filósofos apontaram, talvez toda a realidade como a conhecemos seja apenas um sonho, ou o produto de alguma conspiração longa e envolvida, como a trama do filme de Jim Carrey, The Truman Show. A chave para atender a essas objeções é que elas exigem uma regressão infinita de objeções cada vez mais insustentáveis, cuja probabilidade mergulha em cada etapa adicional necessária para justificar tais dúvidas irracionais; Eu sempre me perguntei se poderíamos criar uma "Métrica de Ridiculousness" para Machine Learning com base na cardinalidade de tais objeções (ou na escolha de conjuntos difusos). Se permitíssemos que os críticos enfiassem o pé na porta com todo tipo de objeções irracionais, seria impossível encerrar qualquer debate. A raça humana ficaria paralisada em inação porque nada seria decidível; mas como uma vez a banda de rock Rush apontou: "Se você optar por não decidir, ainda fará uma escolha". Em algum momento, devemos aplicar um teste para decidir essas coisas, mesmo na ausência de prova absoluta; A recusa em aplicar um teste também constitui uma escolha. Resolver um argumento desse tipo é como um jogo do jogo chinês Go - uma vez que o outro jogador está cercado e não tem mais movimentos para fazer, o jogo termina; se as evidências de uma pessoa foram desmascaradas e elas não têm mais justificativas, podemos concluir que elas estão agindo de maneira irracional. Há pessoas correndo alegando que o Holocausto nunca aconteceu, ou a Sociedade da Terra Plana, etc., mas sua existência não deve e não nos impede de agir de maneira contrária às suas idéias. Podemos desmascarar as objeções de manivelas como a Sociedade da Terra Plana além de uma dúvida razoável, porque no final, elas simplesmente não podem responder a todas as nossas refutações. Fico feliz que os qualia e os zumbis filosóficos foram criados porque eles proporcionam conversas interessantes e alimento para o pensamento, mas o solipsismo é tão raramente praticado quanto as idéias da Sociedade da Terra Plana, precisamente porque a evidência incompleta que Podemos desmascarar as objeções de manivelas como a Sociedade da Terra Plana além de uma dúvida razoável, porque no final, elas simplesmente não podem responder a todas as nossas refutações. Fico feliz que os qualia e os zumbis filosóficos foram criados porque eles proporcionam uma conversa interessante e alimento para o pensamento, mas o solipsismo é tão raramente praticado quanto as idéias da Sociedade da Terra Plana, justamente porque a evidência incompleta que Podemos desmascarar as objeções de manivelas como a Sociedade da Terra Plana além de uma dúvida razoável, porque no final, elas simplesmente não podem responder a todas as nossas refutações. Fico feliz que os qualia e os zumbis filosóficos foram criados porque eles proporcionam uma conversa interessante e alimento para o pensamento, mas o solipsismo é tão raramente praticado quanto as idéias da Sociedade da Terra Plana, justamente porque a evidência incompleta quenão ter executado contra ele.

Como GK Chesterton (também conhecido como "O Apóstolo do Senso Comum") aponta em sua clássica Ortodoxia, a dúvida radical do tipo que muitos filósofos clássicos pregavam não é um caminho para a sabedoria, mas para a loucura; uma vez que superamos uma dúvida razoável, acabamos agindo de maneira irracional. Ele diz que, na ausência de provas absolutas, podemos recorrer a outra forma secundária de evidência: se a filosofia de uma pessoa leva um homem a Hanwell, a infame instituição mental britânica. Chesterton argumenta que, quando as pessoas realmente agem sobre idéias como o solipsismo (em vez de apenas debater-se de maneira pedante em uma sala de aula coberta de hera), ficam loucas. critérios para certas formas de esquizofrenia. A desumanização que ocorre quando a dúvida radical é aplicada aos qualia também está intimamente ligada ao comportamento sociopático, Embora GKC não cite diretamente seu exemplo assustador, René Descartes era a própria prova viva. Ele era um matemático brilhante que ainda é aplaudido por duvidar de todos, exceto de sua própria existência, com a famosa máxima "Eu penso, logo existo". Mas Descartes também costumava levar um manequim de sua irmã morta para cafés europeus, onde ele podia ser visto conversando com ele. A essência de tudo isso é que podemos julgar o valor de uma idéia pela forma como ela afeta o bem-estar do crente, ou pela maneira como elas afetam os outros por meio de escolhas éticas baseadas nessas crenças. Quando as pessoas realmente agem sobre uma dúvida radical do tipo expressa no solipsismo e na negação de qualia comum, muitas vezes isso afeta negativamente as pessoas e outras pessoas com quem entram em contato. Ele era um matemático brilhante que ainda é aplaudido por duvidar de todos, exceto de sua própria existência, com a famosa máxima "Eu penso, logo existo". Mas Descartes também costumava levar um manequim de sua irmã morta para cafés europeus, onde ele podia ser visto conversando com ele. A essência de tudo isso é que podemos julgar o valor de uma idéia pela maneira como ela afeta o bem-estar do crente, ou pela maneira como elas afetam os outros por meio de escolhas éticas baseadas nessas crenças. Quando as pessoas realmente agem sobre uma dúvida radical do tipo expressa no solipsismo e na negação de qualia comum, muitas vezes isso afeta negativamente as pessoas e outras pessoas com quem entram em contato. Ele era um matemático brilhante que ainda é aplaudido por duvidar de todos, exceto de sua própria existência, com a famosa máxima "Eu penso, logo existo". Mas Descartes também costumava levar um manequim de sua irmã morta para cafés europeus, onde ele podia ser visto conversando com ele. A essência de tudo isso é que podemos julgar o valor de uma idéia pela maneira como ela afeta o bem-estar do crente, ou pela maneira como elas afetam os outros por meio de escolhas éticas baseadas nessas crenças. Quando as pessoas realmente agem sobre uma dúvida radical do tipo expressa no solipsismo e na negação de qualia comum, muitas vezes isso afeta negativamente as pessoas e outras pessoas com quem entram em contato. Mas Descartes também costumava levar um manequim de sua irmã morta para cafés europeus, onde ele podia ser visto conversando com ele. A essência de tudo isso é que podemos julgar o valor de uma idéia pela maneira como ela afeta o bem-estar do crente, ou pela maneira como elas afetam os outros por meio de escolhas éticas baseadas nessas crenças. Quando as pessoas realmente agem sobre uma dúvida radical do tipo expressa no solipsismo e na negação de qualia comum, muitas vezes isso afeta negativamente as pessoas e outras pessoas com quem entram em contato. Mas Descartes também costumava levar um manequim de sua irmã morta para cafés europeus, onde ele podia ser visto conversando com ele. A essência de tudo isso é que podemos julgar o valor de uma idéia pela maneira como ela afeta o bem-estar do crente, ou pela maneira como elas afetam os outros por meio de escolhas éticas baseadas nessas crenças. Quando as pessoas realmente agem sobre uma dúvida radical do tipo expressa no solipsismo e na negação de qualia comum, muitas vezes isso afeta negativamente as pessoas e outras pessoas com quem entram em contato.

De uma maneira indireta, a comunidade de IA também enfrenta um risco bastante sério - talvez uma tentação permanente - de cometer o erro oposto de atribuir qualia, consciência e afins comuns aos seus produtos de aprendizado de máquina sem provas adequadas. Recentemente, ouvi um caso de acadêmicos respeitados, com argumentos chocantemente ruins, no sentido de que as plantas possuem "inteligência", baseadas em definições realmente fracas e clara confusão com a auto-organização. Não podemos fornecer prova absoluta de que uma rocha não possui inteligência, o que equivale ao antigo problema de refutar um negativo. Felizmente, atualmente, poucos homens agem de acordo com essas crenças, porque, quando o fazem, acabam perdendo a cabeça. Se levarmos esses argumentos a sério, poderemos ver leis aprovadas para proteger o tipo de Pet Rocks que eram populares no ' 70 (ainda estou chateado que o meu foi roubado LOL). Seria muito mais fácil, no entanto, cometer o mesmo erro de atribuir consciência, inteligência e outras qualidades a uma máquina de ponta, por causa de pensamentos desejosos, arrogância, as elevadas credenciais dos inventores, a influência de ficção científica e o caso de amor moderno com a tecnologia. No futuro, tenho poucas dúvidas de que teremos o Cargo Cult of AI - talvez protegido legalmente como algum tipo de espécie em extinção, com direitos civis, mas não tendo mais consciência, alma ou inteligência real do que uma rocha. Não me cite, mas acredito que Rod Serling escreveu uma história nesse sentido. inteligência e outras qualidades para uma máquina de ponta, por causa do pensamento positivo, da arrogância, das elevadas credenciais dos inventores, da influência da ficção científica e do moderno caso de amor com a tecnologia. No futuro, tenho poucas dúvidas de que teremos o Cargo Cult of AI - talvez protegido legalmente como algum tipo de espécie em extinção, com direitos civis, mas não tendo mais consciência, alma ou inteligência real do que uma rocha. Não me cite, mas acredito que Rod Serling escreveu uma história nesse sentido. inteligência e outras qualidades para uma máquina de ponta, por causa do pensamento positivo, da arrogância, das elevadas credenciais dos inventores, da influência da ficção científica e do moderno caso de amor com a tecnologia. No futuro, tenho poucas dúvidas de que teremos o Cargo Cult of AI - talvez protegido legalmente como algum tipo de espécie em extinção, com direitos civis, mas não tendo mais consciência, alma ou inteligência real do que uma rocha. Não me cite, mas acredito que Rod Serling escreveu uma história nesse sentido. - talvez protegido legalmente como algum tipo de espécie ameaçada de extinção, com direitos civis, mas não tendo mais consciência, alma ou inteligência real do que uma rocha. Não me cite, mas acredito que Rod Serling escreveu uma história nesse sentido. - talvez protegido legalmente como algum tipo de espécie ameaçada de extinção, com direitos civis, mas não tendo mais consciência, alma ou inteligência real do que uma rocha. Não me cite, mas acredito que Rod Serling escreveu uma história nesse sentido.

A melhor maneira de evitar esse destino é se ater às interpretações e definições de senso comum dessas coisas, das quais mantemos o afastamento em grande parte porque elas definem uma barreira muito alta para a IA que talvez nunca possamos superar em nossas vidas. , se alguma vez. Talvez a IA nem seja logicamente possível, em qualquer nível de tecnologia; Lembro-me de algumas provas que podem ser interpretadas nesse sentido. Esses padrões altos, porém razoáveis, podem ser cada vez mais difíceis de serem cumpridos se Chesterton e colegas como Hilaire Belloc e Arnold Lunn estiverem corretos em sua avaliação de que o uso da razão está realmente desmoronando na civilização ocidental, pelo menos desde o Iluminismo; O livro de Lunn, de 1931, The Flight from Reason é um clássico nesse sentido e ainda não foi refutado. Essa tendência histórica é um tópico amplo por si só - mas basta dizer que a negação da razão e a obsessão pela tecnologia são diretamente relevantes de maneiras óbvias para o campo da IA. Se o Flight from Reason ainda estiver em andamento, então nós ficaremos cada vez mais tentados a recorrer a objeções fáceis e irresponsáveis, a fim de rebaixar o uso da razão e de qualidades indispensáveis ​​como a consciência em nossas definições de IA, mas apresentar critérios cada vez mais fracos para provar isso; simultaneamente, nossa tecnologia continuará melhorando, aumentando assim o lado "artificial" da inteligência artificial. então seremos cada vez mais tentados a recorrer a objeções fáceis e irresponsáveis, a fim de rebaixar o uso da razão e de qualidades indispensáveis ​​como a consciência em nossas definições de IA, mas apresentaremos critérios cada vez mais fracos para provar isso; simultaneamente, nossa tecnologia continuará melhorando, aumentando assim o lado "artificial" da inteligência artificial. então seremos cada vez mais tentados a recorrer a objeções fáceis e irresponsáveis, a fim de rebaixar o uso da razão e de qualidades indispensáveis ​​como a consciência em nossas definições de IA, mas apresentaremos critérios cada vez mais fracos para provar isso; simultaneamente, nossa tecnologia continuará melhorando, aumentando assim o lado "artificial" da inteligência artificial.

Não me interpretem mal: se eu não achasse que podemos fazer coisas realmente emocionantes com a IA, eu não estaria aqui. Mas a maioria deles pode ser alcançada sem nunca replicar a inteligência humana real, resolvendo classes inteiras de problemas tangenciais que são difíceis para os humanos pensarem, mas que não exigem consciência ou o uso da razão que marca a inteligência humana. Os recursos de reconhecimento de imagem das redes neurais convolucionais são um exemplo, por exemplo; se queremos inteligência humana, sempre podemos fabricá-la da maneira mais fácil, econômica e testada pelo tempo, tendo bebês. Talvez essas formas tangenciais de IA devam ser suficientes para nós por enquanto. Não podemos injetar o uso da razão em nossas máquinas se não possuirmos o suficiente para decidir se a razão é necessária para a IA, ou até para discernir em que consiste. Não podemos projetar ou depreciar a consciência para a IA até que estejamos conscientes de seu significado. Eu apostaria, no entanto, que todo mundo lendo esse tópico e ponderando respostas inteligentes está fazendo isso em um estado consciente. Isso por si só deve responder satisfatoriamente à nossa pergunta por enquanto.

De acordo com a definição que você forneceu:

na verdade, experimentando informações sensoriais em vez de apenas colocar um monte de dados em uma máquina inanimada.

Computadores e humanos experimentam informações sensoriais. Você pode conectar um computador a um globo ocular humano e fazer com que ele execute as mesmas rotinas de filtragem que o cérebro humano (a remoção do borrão enquanto você move o olho e de objetos não em foco, etc.).

Eu diria que uma definição mais precisa da consciência é a capacidade e a tendência de se refletir. Computadores e cérebros humanos têm atividades autônomas. Não apenas mecânico, mas também em nossas reações. A distinção entre o computador inconsciente e a mente humana autoconsciente é que também temos a capacidade de 'olhar' para esses padrões em nós mesmos e considerá-los.

E assim, não, a consciência não é necessária para nenhuma tarefa de IA. O reconhecimento de imagens é uma tarefa de IA que não requer consciência, seja em humanos ou de outra forma. Seu cérebro classifica a 'lavagem' de cores dos seus olhos em objetos discretos de maneira amplamente autônoma.

A consciência é auto-referência.

Dois tipos de tarefas requerem consciência:

1. consciência

2. Qualquer tarefa que exija extrema dinamicidade, em que a solução de problemas exija a analogia entre vários estados de coisas 3D e o conhecimento prévio de como resolver o problema é mínima.

No entanto, uma vez que o conhecimento de como resolver um determinado problema seja obtido, uma otimização adicional eliminará essa necessidade de consciência.

Se você der especificidade suficiente a um problema, removerá a necessidade de um solucionador geral. E então a única necessidade restante de consciência é por si mesma.

Num sentido muito específico, eu diria que sim.

As únicas tarefas que a senciência tornaria possível eram os sentimentos e pensamentos reais em si. Nesse ponto, a senciência não participa de nenhuma das tarefas que solicitamos que as IAs concluam; estamos nos aproximando rapidamente do ponto de podermos ensinar uma máquina "morta" a fazer quase tudo o que uma IA sensível pode, em um sentido prático.

Senciência, coloquialmente, muitas vezes se traduz na "capacidade de raciocinar, ao mesmo tempo em que entende que a pessoa e a outra entidade são um agente atuante distinto" ou algo nesse sentido. Literalmente significa algo mais parecido com a autoconsciência e a definição de consciência que você tem acima. O que estou dizendo é que estamos nos aproximando prontamente do ponto em que as IA 'mortas' podem imitar muito bem a primeira maneira de pensar, apenas aprendendo e interpretando dados de maneira muito agradável.

                              _{O robô vê uma amálgama de osso ou um ser que já foi?}

Assim, uma máquina verdadeiramente sensível seria superior em capacidade (em comparação com uma IA "morta" muito, muito avançada) apenas no que diz respeito à capacidade de "verdadeiramente" experimentar as informações.

Isso funciona muito bem em paralelo com o chamado "argumento do conhecimento", que em essência discute essa mesma questão. A versão que ouvi que fica comigo é que há uma garota muito inteligente em uma sala com acesso a todo tipo de informação. Ela gosta da cor azul. Ou assim ela pensa; ela nunca viu isso de verdade. Ela tem todas as informações disponíveis no mundo sobre cores e como elas funcionam, etc., mas ela realmente sabe o que é azul até vê-lo?

Outro grande empreendimento histórico nesse campo é a famosa pintura:

A legenda traduz: "Este não é um canal". E a idéia é que isso, honestamente, não é um cachimbo. No momento, há vários pixels na tela em uma determinada configuração - todos podemos "ver" um pipe, mas o que isso realmente significa?

No final das contas, acho que a IA “morta” superinteligente pode praticamente fazer qualquer coisa que se possa “viver”, sendo esta última superior na e na própria “vivacidade”.

Um ser sem senciência não pode sofrer. Se, por exemplo, quiséssemos ter prazer no sofrimento de outro, apenas uma IA senciente seria suficiente.

Suponhamos que tivéssemos sádicos que não poderiam ser satisfeitos ou produtivos, a menos que pudessem produzir muito sofrimento. E digamos que apenas nos preocupamos em minimizar o sofrimento humano e animal. O que precisamos para este trabalho é algo não humano e não animal que possa sofrer. Uma IA consciente serviria, uma não consciente não serviria.

A afirmação foi feita nos comentários de que a consciência não pode ser comprovada, a não ser talvez por introspecção. Mas claramente isso não é um problema, já que os sádicos se alegram em torturar os outros, e esses outros também não podem provar que estão conscientes.