O fosso entre os sistemas actuais e os sistemas científicos-ficcionais que dominam a imaginação popular ainda é enorme, embora muitas pessoas, tanto leigos como peritos, consigam subestimá-lo. Vamos considerar o Watson da IBM, que pode ser um marco digno para a nossa imaginação por enquanto.
É o resultado de um processo R&D que se estende por muitos séculos de design inteligente de pessoas, e usa milhares de vezes mais energia do que um cérebro humano. A sua vitória no Jeopardy! foi um verdadeiro triunfo, tornado possível pelas restrições de fórmula das regras do Jeopardy! mas para que ele pudesse competir, mesmo estas regras tiveram que ser revistas (uma daquelas trocas: você desiste de um pouco de versatilidade, um pouco de humanidade, e ganha um show que agrada a multidão).
Watson não é boa companhia, apesar dos anúncios enganosos da IBM que sugerem uma capacidade de conversação geral, e transformar o Watson em um agente plausivelmente multidimensional seria como transformar uma calculadora de mão em Watson. Watson poderia ser uma faculdade essencial útil para tal agente, mas mais como um cerebelo ou uma amígdala do que uma mente – na melhor das hipóteses, um subsistema de propósito especial que poderia desempenhar um grande papel de apoio, mas não remotamente à tarefa de enquadrar propósitos e planos e construir insight sobre suas experiências de conversação.
Por que quereríamos criar um agente pensante e criativo fora do Watson? Talvez a brilhante idéia de Turing de um teste operacional – o famoso teste de Turing – nos tenha atraído para uma armadilha: a busca de criar pelo menos a ilusão de uma pessoa real atrás da tela, fazendo a ponte entre o “vale do sinistro”.”
p> O perigo aqui é que desde que Turing colocou seu desafio – que foi, afinal, um desafio para enganar os juízes – os criadores de Turing têm tentado papelar sobre o vale com toques humanóides engraçados, efeitos de desnaturação que irão encantar e desarmar os não iniciados. O ELIZA de Joseph Weizenbaum, um tagarela muito cedo, foi o exemplo pioneiro de tal ilusão superficial, e foi a sua consternação pela facilidade com que o seu programa ridiculamente simples e superficial podia persuadir as pessoas de que estavam tendo uma conversa séria de coração para coração que primeiro o enviou na sua missão.
Ele estava certo em se preocupar. Se há uma coisa que aprendemos com os concursos limitados do teste Turing para o Prêmio Loebner anual, é que mesmo pessoas muito inteligentes que não estão sintonizadas com as possibilidades e atalhos da programação de computadores são prontamente enganadas por truques simples.
As atitudes das pessoas na IA em relação a esses métodos de divulgação na “interface do usuário” variaram do desprezo à celebração, com uma apreciação geral de que os truques não são profundos, mas podem ser potentes. Uma mudança de atitude que seria muito bem-vinda é o reconhecimento sincero de que os embelezamentos humanóides são publicidade falsa – algo a condenar, não aplaudir.
Como isso poderia ser feito? Uma vez que reconhecemos que as pessoas estão começando a tomar decisões de vida ou morte em grande parte com base em “conselhos” de sistemas de IA cujas operações internas são insondáveis na prática, podemos ver uma boa razão pela qual aqueles que de alguma forma encorajam as pessoas a colocar mais confiança nesses sistemas do que eles garantem devem ser responsabilizados moralmente e legalmente.
p> Os sistemas de IA são ferramentas muito poderosas – tão poderosas que mesmo os especialistas terão boas razões para não confiar em seu próprio julgamento sobre os “julgamentos” proferidos por suas ferramentas. Mas então, se esses usuários de ferramentas vão se beneficiar, financeiramente ou não, da condução dessas ferramentas através da terra incógnita, eles precisam ter certeza de saber como fazer isso de forma responsável, com o máximo controle e justificativa.
Licenciar e ligar os operadores destes sistemas, tal como licenciamos farmacêuticos, operadores de gruas e outros especialistas cujos erros e julgamentos errados podem ter consequências terríveis, poderia, com a pressão das companhias de seguros e outros subscritores, obrigar os criadores de sistemas de IA a ir a extremos extraordinários para procurar e revelar fraquezas e lacunas nos seus produtos, e treinar aqueles que têm o direito de os operar para os vigiarem.
Uma pessoa pode imaginar uma espécie de teste de Turing invertido no qual o juiz está em julgamento; até que ele ou ela possa detectar os pontos fracos, os limites ultrapassados, as lacunas de um sistema, nenhuma licença para operar será emitida. O treinamento mental necessário para obter a certificação como juiz será exigente. O desejo de atribuir poderes de pensamento humano a um objeto, nossa tática normal sempre que encontramos o que parece ser um agente inteligente, é quase que excessivamente forte.
Indeed, a capacidade de resistir ao fascínio de tratar uma pessoa aparente como uma pessoa é um talento feio, cheirando a racismo ou a espécies-ismo. Muitas pessoas achariam o cultivo de uma abordagem tão impiedosamente céptica moralmente repugnante, e podemos antecipar que mesmo os usuários mais proficientes do sistema sucumbiriam ocasionalmente à tentação de “fazer amizade” com suas ferramentas, quanto mais não fosse para amenizar seu desconforto com a execução de seus deveres.
Por mais escrupulosamente que os criadores de IA lavem os falsos “humanos” dos seus produtos, podemos esperar um florescimento de atalhos, soluções e distorções toleradas da real “compreensão” tanto dos sistemas como dos seus operadores. As listas comicamente longas de efeitos colaterais conhecidos dos novos medicamentos anunciados na televisão serão anuladas pelas revelações obrigatórias dos tipos de perguntas que não podem ser respondidas de forma responsável por sistemas particulares, com pesadas penalidades para os fabricantes que “ignoram” as falhas em seus produtos. (É amplamente notado que uma parte considerável da crescente desigualdade econômica no mundo de hoje se deve à riqueza acumulada pelos empreendedores digitais; devemos promulgar uma legislação que coloque seus bolsos fundos em garantia para o bem público.)