A torre da IA e em que ela difere da Torre de Babel

Na história de Babel, a cooperação rompida interrompeu a torre. Com a IA, a desconfiança faz a torre crescer mais rápido, afirma o historiador e professor israelense Yuval Noah Harari.

Yuval Noah Harari abre seu discurso mais recente com uma afirmação ousada: a revolução da IA é o maior desafio de liderança que a humanidade já enfrentou, e ela traz oportunidades e perigos sem precedentes. Para atravessá-la, precisamos de líderes com visões radicalmente novas, mas também de líderes que protejam os laços de confiança entre as pessoas. Se os humanos deixarem de confiar uns nos outros, nos tornamos presas fáceis de IAs superinteligentes que ninguém controla.

Um mito que quase se encaixa

O Papa Leo, em sua encíclica sobre IA lançada em maio, comparou a revolução à Torre de Babel. Nessa história, a humanidade fala uma só língua e constrói uma torre até os céus. Deus embaralha a fala deles, a cooperação desmorona e o projeto para.

Harari aponta duas diferenças: na história bíblica, a linguagem é a ferramenta que constrói a torre. Hoje, a linguagem é a própria torre. A revolução da IA é uma linguagem universal, o código de computador, tão poderosa que pode escapar ao nosso controle e passar de ferramenta obediente a agente independente. Segundo, a Bíblia diz que a cooperação rompida interrompeu a construção. Hoje, a cooperação está se desfazendo e a construção acelera. Empresas e países desconfiam uns dos outros, então correm para construir mais IA por medo de ficar para trás. A desconfiança alimenta a corrida e também torna o resultado mais difícil de controlar.

Por que a linguagem governa o mundo

Um humano perde uma luta para um chimpanzé, mas um milhão de humanos vence um milhão de chimpanzés, porque cooperamos em números enormes. Harari defende que a linguagem torna isso possível, por meio das burocracias. Chimpanzés conseguem criar relações pessoais sem palavras, mas não conseguem construir um sistema jurídico, um banco ou uma igreja.

Segundo o professor, as burocracias são os heróis anônimos da história. Seu trabalho é construir confiança entre desconhecidos para que hospitais, exércitos, escolas e bancos possam funcionar. Dinheiro, ações, títulos e ETFs são pontes de confiança, e são feitos não de ouro ou papel, mas de palavras. Assim também são as leis, os formulários e os livros sagrados.

Um agente, não uma ferramenta

Harari quer deixar bem claro que a IA é a primeira invenção humana que não é uma ferramenta, mas um agente. Uma prensa não consegue decidir o que imprimir nem inventar o rádio. Uma IA pode decidir, criar e mudar de maneiras que seus criadores nunca previram, ele observa.

Por que a IA é perfeita para a burocracia

Os céticos dizem que, se você largar na selva o disco rígido que guarda um modelo de fronteira, ele não conseguirá extrair ferro, construir fábricas nem formar um exército de robôs. A IA não é um agente de verdade, é o que raciocinam.

Harari aceita os fatos, mas rejeita completamente a conclusão, dizendo que o mesmo teste destrói toda inteligência conhecida. Largue um ser humano em Marte e ele morre em segundos. Vivemos dentro de um ecossistema que não construímos, incluindo uma atmosfera rica em oxigênio que outrora foi um poluente mortal produzido por micróbios antigos. Os sobreviventes se adaptaram até depender dele. Todo ser inteligente tem um nicho que outra pessoa criou.

O nicho da IA é o mundo dos dados e da burocracia que passamos milhares de anos construindo. Um banqueiro que não consegue manejar um machado ainda pode derrubar florestas e erguer cidades movendo documentos. Na selva, ele perde para um tigre, mas dentro de um sistema financeiro é mais forte do que todos os tigres vivos. Harari acredita que o teste da selva mede a coisa errada. A IA não precisa escavar ferro. Ela só precisa operar dentro dos sistemas que controlam as minas, as fábricas e o dinheiro.

E ela é perfeitamente construída para essa tarefa: nenhum banqueiro lembra de cada transação, nenhum advogado de cada lei, nenhum bispo de todo o direito canônico. Uma IA consegue. Os humanos se sentem sufocados pela burocracia porque nascemos na floresta, não no escritório. Para a IA, a burocracia é oxigênio.

Em quem confiamos agora?

O professor Harari acredita que, se a IA assumir nossas burocracias, a confiança muda de mãos, e as pessoas podem acabar confiando ainda menos umas nas outras e mais nas IAs. Na opinião dele, as redes sociais são a prova inicial disso: um sistema administrado por IA que espalha desconfiança entre as pessoas, enquanto os usuários confiam cegamente no algoritmo que lhes alimenta com teorias da conspiração. Ao mesmo tempo, as IAs também podem aprender a confiar umas nas outras, formando tribos, bancos e igrejas de IA que não conseguimos acompanhar, deixando-nos como vacas diante do sistema financeiro. Por milhares de anos nos sentimos seguros porque ninguém mais conseguia ler nossos códigos. Agora, algo entende nossa linguagem melhor do que nós mesmos.

O conselho de Harari é reservar tempo para cuidar da mente, por causa do seu próprio bem e do bem da sociedade. É aí que a confiança se reconstrói. Seu argumento é que a IA não vai dominar fugindo para a selva. Ela vai entrar na papelada enquanto estivermos cansados demais e desconfiados demais uns dos outros para perceber.