#000174 – 09 de Maio de 2020
Sugiro uma experiência mental. Chamo-lhe Paradoxo do observador.
Primeiro: o contexo. Relembre-se o Simulation Game, proposto por Turing, conhecido por Teste de Turing. Abreviando muito: num teste cego, um humano tenta perceber se do outro lado está um humano ou uma máquina. A máquina tenta levar o humano a pensar que é também um ser humano. O observador humano faz perguntas à máquina. Apenas o conteúdo das respostas serve para decidir quem está do outro lado. Ou seja, o teste é feito através da linguagem.
Segundo: a hipótese. Considere-se a expressão “e se uma máquina passar o Teste de Turing”. Colocado de outra maneira, “e se o humano do teste não consegue perceber se do outro lado está um humano ou uma máquina”. Será que o Teste de Turing é afinal um teste aos limites da nossa inteligência e não ao limiar da emergência da consciência nas máquinas? Uma forma de o perceber seria remover o ser humano da equação. Se realmente o que está em causa é perceber se uma máquina é inteligente, então vamos usar tudo o que temos ao nosso dispor como ferramenta: uma outra máquina.
Terceiro: a experiência. Coloquemos uma máquina no lugar do observador. Vamos ver o que isto muda.
Quarto: o paradoxo. Aqui, fica tudo confuso. E se a máquina que observa conseguir perceber que do outro lado está uma máquina? Isso não significará que é mais sofisticada que a máquina que está a ser testada? Uma conclusão imediata, muito intrigante, é que a melhor forma de avaliar se uma máquina é inteligente é perceber se consegue descobrir se está na presença de uma máquina ou um humano. Isso implica que a inteligência, afinal, não é enganar um humano (algo que hoje em dia já parece fácil), mas saber distinguir um humano de uma máquina. Ou seja, passar o teste do observador é que eleva as máquinas ao patamar que chamamos inteligência. Mas já tínhamos estabelecido que os seres humanos, sem dúvida inteligentes, são fáceis de enganar. Que isso não mostra nem que a máquina era consciente nem que o humano não o era.
Conclusão: este é pensamento circular, paradoxal. Não encontro forma de evitar a sua armadilha caótica. Esta confusão, em que se perde as coordenadas, mostra-me bem como será confuso, cada vez mais, o mundo cibernético que estamos a criar. Há dois anos atrás, no evento em que a Google mostra os seus novos produtos, o Google Duplex, em direto, ligou para um cabeleireiro e para um restaurante e fez reservas. Os humanos que estavam do outro lado não perceberam que estava a falar com uma máquina e marcaram as reservas. A conversa foi indistinguível de uma conversa entre pessoas, até para quem via tudo ao vivo e sabia desde o início o que estava a acontecer. Falhámos, já, humanos, o teste de turing. Mas curiosamente, os criadores do Watson e do AlphaGo continuam a dizer-nos que estes softwares (que usam machine learning, deep learning e as outras coisas que habitualmente chamamos de inteligência artificial) não fazem a mínima ideia do que estão a fazer. É fácil para uma máquina derrotar-nos no xadrez, no Go e no Jeopardy sem terem o mínimo de consciência do que estão a fazer. É mais do que evidente que o Simulation Game, de Turing não nos mostra como detetarmos o limiar em que as máquinas se tornam conscientes. Ou sequer perceber se esse limiar já foi ultrapassado.