O que Turing quis dizer ao dizer que "as máquinas não podem causar surpresas" se deve a uma falácia?

Encontrei abaixo a declaração de Alan M. Turing aqui :

"A visão de que as máquinas não podem causar surpresas se deve, creio eu, a uma falácia à qual filósofos e matemáticos estão particularmente sujeitos. Essa é a suposição de que, assim que um fato é apresentado à mente, todas as conseqüências desse fato surgem. a mente simultaneamente com ela. É uma suposição muito útil em muitas circunstâncias, mas esquece-se muito facilmente que ela é falsa ".

Eu não sou um falante nativo de inglês. Alguém poderia explicar isso em inglês simples?

Os matemáticos e filósofos geralmente assumem que as máquinas (e aqui, ele provavelmente significa "computadores") não podem nos surpreender. Isso ocorre porque eles assumem que, uma vez que aprendemos algum fato, entendemos imediatamente todas as consequências desse fato. Isso geralmente é uma suposição útil, mas é fácil esquecer que é falso.

Ele está dizendo que sistemas com descrições simples e finitas (por exemplo, máquinas de Turing) podem exibir um comportamento muito complicado e que isso surpreende algumas pessoas. Podemos entender facilmente o conceito de máquinas de Turing, mas depois percebemos que elas têm conseqüências complicadas, como a indecidibilidade do problema de parada e assim por diante. O termo técnico aqui é que "o conhecimento não é fechado com dedução". Ou seja, podemos saber algum fato  , mas não sei  , apesar implica  .$A$$B$$A$$B$

Honestamente, porém, não tenho certeza de que o argumento de Turing seja muito bom. Talvez eu tenha o benefício de escrever quase 70 anos depois de Turing, e meu entendimento é que o matemático típico sabe muito mais sobre lógica matemática do que na época de Turing. Mas parece-me que os matemáticos estão familiarizados com a idéia de sistemas simples com comportamento complexo. Por exemplo, todo matemático conhece a definição de um grupo , que consiste em apenas quatro axiomas simples. Mas ninguém - hoje ou então - pensaria: "Ah! Eu conheço os quatro axiomas, portanto conheço todos os fatos sobre grupos". Da mesma forma, os axiomas de Peano fornecem uma descrição muito curta dos números naturais, mas ninguém que os lê pensa "Certo, agora conheço todos os teoremas sobre os números naturais. Vamos"

Apenas um exemplo - dadas as regras do xadrez, qualquer um deve descobrir imediatamente a melhor estratégia para jogar xadrez.

Claro, isso não funciona. Mesmo as pessoas não são iguais, e os computadores podem ter um desempenho superior a nós devido às suas melhores habilidades para tirar conclusões dos fatos.

Essa é a idéia de emergência , que é quando o comportamento complexo resulta da interação de regras relativamente simples. Existem muitos exemplos disso por natureza, como esse link aponta. Colônias de insetos, bandos de pássaros, cardumes de peixes e, claro, consciência. Em um bando de pássaros ou cardume de peixes, cada indivíduo no enxame só toma decisões com base nos outros que os cercam imediatamente, mas quando você agrupa um grupo desses indivíduos, seguindo todas essas regras, começa a ver um comportamento mais coordenado do que você esperaria sem um plano de nível superior. Se você for ao Youtube e assistir a demonstrações de enxames de robôs, você vê que todos evitam se bater e trabalham em uníssono. Surpreendentemente, isso não precisa ser conseguido com um único computador central coordenando o comportamento de cada robô individual, mas pode ser feito usando robótica de enxame , onde, como os insetos, os pássaros ou os peixes, cada robô está tomando decisões locais que levam coordenação emergente.

Outra demonstração interessante de comportamento emergente é o Jogo da Vida de Conway . As regras do jogo são extremamente simples, mas podem levar a resultados muito fascinantes

Um argumento tentador contra a capacidade dos computadores de obter inteligência humana é dizer que, como eles só podem fazer exatamente o que estão programados para fazer, devem exibir apenas a inteligência com a qual os programamos. Se isso fosse verdade, também não esperamos que o comportamento relativamente simples dos neurônios dê origem à inteligência humana. No entanto, tanto quanto podemos dizer, esse é o caso e a consciência é uma propriedade emergente do processamento neural. Tenho certeza de que Turing adoraria ver o que é possível hoje com o uso de redes neurais artificiais

As pessoas podem supor que, se eu escrever um programa e entender completamente o algoritmo, e não houver erros, eu deveria saber qual seria a saída desse programa e que isso não deveria me surpreender.

Turing diz (e eu concordo) que este não é o caso: a saída pode ser surpreendente. A solução para um problema de vendedor ambulante pode ser surpreendente. A melhor maneira de construir um somador completo pode ser surpreendente. A melhor jogada em um jogo de xadrez pode ser surpreendente.