Um dos pensadores mais influentes da atualidade, o historiador e filósofo israelense Yuval Noah Harari está receoso. Frente à corrida pelo domínio da inteligência artificial, ele teme pelo surgimento de um novo tipo de imperialismo.

“Para conquistar um país, não será necessário enviar navios ou armas. Bastará controlar seus dados”, diz Harari, em entrevista ao NeoFeed. “Quando um país depende totalmente da infraestrutura de IA de outro e todos os seus dados são transmitidos, à velocidade da luz, para o outro lado do mundo, esse país já se tornou uma colônia de dados.”

A disputa pela supremacia da tecnologia é liderada com veemência pelo presidente Donald Trump, expressa no documento Winning the Race: America’s AI Action Plan, apresentado em julho deste ano.

O plano da Casa Branca é, entre outras medidas, afrouxar as regulações para acelerar a inovação e fortalecer as exportações de pacotes completos de IA para conter o avanço de rivais estratégicos, sobretudo a China.

Para Harari, o objetivo do governo dos Estados Unidos é claro: destruir a ordem liberal global — o que está por trás também, segundo o filósofo, do tarifaço e da ideia de anexação da Groenlândia.

“Nos últimos 70 anos, vimos a formação de um sistema internacional baseado na ideia de cooperação. Países ao redor do mundo decidiram que era melhor defender valores universais, negociar e participar de instituições multilaterais do que lutar entre si”, afirma o intelectual.

Ele prossegue: “Mas Trump não acredita em cooperação, em benefício mútuo. Ele considera inimigos todos os que ainda acreditam em cooperação global e valores universais.”

Uma postura também adotada pelo chinês Xi Jinping e o russo Vladimir Putin: “Eles acreditam que a IA lhes dará a capacidade de conquistar e dominar o mundo. E talvez estejam certos”.

Na opinião do filósofo, a única forma de conter o avanço desigual da tecnologia é se os países que não aceitam se transformar em “colônias de dados” se organizarem para regular, em conjunto, o uso da IA.  E é preciso agir imediatamente, defende ele.

Autor de best-sellers como Nexus, Sapiens e 21 lições para o século 21, traduzidos para 65 idiomas e cujas vendas ultrapassaram os 50 milhões de exemplares, Harari vem ao Brasil em 30 de outubro para participar do 29º Congresso da Associação Brasileira de Planos de Saúde (Abramge), em São Paulo.

Acompanhe, a seguir, os principais trechos de sua entrevista concedida para o NeoFeed.

Em sua avaliação, qual é o principal objetivo do presidente americano em relação à IA?
Seja pelo domínio da IA, seja pressionando o Brasil e outros países com tarifas ou ameaçando anexar a Groenlândia, as ações de Donald Trump são consistentes com um objetivo: a destruição da ordem liberal global. Nos últimos setenta anos, vimos a formação de um sistema internacional baseado na ideia de cooperação. Países ao redor do mundo decidiram que era melhor defender valores universais, negociar e participar de instituições multilaterais do que lutar entre si.

Donald Trump não acredita nessa visão de mundo?
Trump não acredita em cooperação, em benefício mútuo. Em sua visão de mundo, toda transação envolve vencedores e perdedores. Ele quer impor essa lógica ao mundo inteiro e considera inimigos todos os que ainda acreditam em cooperação global e valores universais.

Esse comportamento é historicamente próprio de vários líderes. 
A visão de Trump não é uma filosofia nova, claro. Foi dominante durante a maior parte da história humana. A diferença é que, hoje, enfrentamos problemas globais como as mudanças climáticas e a IA, que só podem ser enfrentados com cooperação internacional. Se líderes como Trump prevalecerem, não só viveremos em um mundo repleto de guerras, mas também herdaremos uma biosfera arruinada e inteligências artificiais fora de controle, prontas para assumir o comando do planeta.

Os países têm a real dimensão desse objetivo? 
No momento, a maioria dos países subestima a vantagem geopolítica que a IA provavelmente trará. No século 19, os poucos países que lideraram a Revolução Industrial conseguiram conquistar e explorar quase todo o mundo. A diferença de poder entre um país como a Grã-Bretanha, que tinha navios a vapor e metralhadoras, e o Império Zulu, que não tinha, era imensa. No século 21, haverá uma diferença ainda maior entre os poucos países que liderarem a Revolução da IA e todos os demais.

“Em democracias ao redor do mundo, as pessoas já não conseguem concordar nem sobre fatos básicos. Parte dessa tendência é resultado de como os algoritmos mudaram a conversa democrática”

Parece ser uma corrida de imperialistas.
É por isso que não apenas Trump, mas também líderes como Vladimir Putin e Xi Jinping estão abandonando a ordem liberal global e adotando uma visão imperialista. Eles acreditam que a IA lhes dará a capacidade de conquistar e dominar o mundo. E talvez estejam certos.

O que poderia ser feito para impedir esse movimento?
Os países que não aceitam essa visão imperialista deveriam agir imediatamente, porque não têm muito tempo. No século 19, muitas pessoas na África, Ásia e América do Sul consideraram a invenção de navios a vapor e metralhadoras como algo irrelevante, achando que eram problemas distantes, restritos à Europa. Poucas décadas depois, viram-se conquistadas por uma ou outra potência industrial.

Qual é a invenção do nosso período?
No século 21, algo parecido pode acontecer de forma muito mais rápida. E, desta vez, para conquistar um país, não será necessário enviar navios ou armas. Bastará controlar seus dados. Quando um país depende totalmente da infraestrutura de IA de outro e todos os seus dados são transmitidos, à velocidade da luz, para o outro lado do mundo, esse país já se tornou uma colônia de dados.

Por causa da IA, vemos empresas sendo avaliadas em trilhões de dólares, como a Nvidia. Qual é o limite?
Quando olhamos para o mercado de ações, é importante lembrar que se trata de uma espécie de fotografia emocional. O preço de uma ação revela como os investidores se sentem coletivamente em determinado momento. Claramente, muitos estão empolgados com a IA agora. Em breve, porém, esses mesmos investidores estarão competindo com milhões de novos agentes de IA capazes de tomar suas próprias decisões de investimento e influenciar o comportamento dos mercados. Se já era difícil entender o sistema financeiro, imagine quando tivermos inteligências artificiais criando estratégias e produtos que os humanos não conseguem sequer compreender.

“No futuro próximo, haverá agentes de IA capazes de manipular ativamente o sistema financeiro”

Como assim?
Isso será completamente diferente dos algoritmos de negociação atuais, que, em sua maioria, apenas tentam prever o comportamento do mercado. No futuro próximo, haverá agentes de IA capazes de manipular ativamente o sistema financeiro de formas bizarras e imprevisíveis. Isso pode tornar as empresas de tecnologia muito poderosas. Mas, será um poder semelhante ao de um feiticeiro que convoca um gênio que não consegue controlar totalmente. Quando as coisas começarem a dar errado, o feiticeiro poderá descobrir que é impossível colocar o gênio de volta na garrafa.

Nesse sentido, a IA pode tirar da humanidade o poder de controlar seu próprio destino?
Certamente, mas, se isso vai acontecer ou não, dependerá de conseguirmos, ou não, nos organizar e regulá-la de forma conjunta. Ao longo de muitas gerações, a humanidade construiu instituições globais que tornaram a cooperação possível. E não é só a cooperação entre países que está ruindo.

O que mais está em ruínas?
Em democracias ao redor do mundo, as pessoas já não conseguem concordar nem sobre fatos básicos. Parte dessa tendência é resultado de como os algoritmos mudaram a conversa democrática. Se quisermos ter uma prévia do impacto que a IA pode ter sobre a sociedade, basta observar como as IAs relativamente simples das redes sociais desestabilizaram nossos sistemas políticos.

Ou seja, as democracias estão sob risco.
Não são apenas as democracias. A ameaça às ditaduras pode ser ainda maior. Ditadores como Vladimir Putin têm o hábito de ameaçar e matar seus críticos. Mas o que eles podem fazer contra um chatbot que não teme ser preso ou morto? Além disso, a história mostra que um dos maiores perigos para um ditador vem de seus próprios subordinados — por isso, vivem paranoicos. Se um ditador passar a confiar na IA para dizer em quem pode confiar, acabará confiando apenas nela. Nesse ponto, a IA estará efetivamente no controle.

Qual é o papel da IA na saúde? 
Um futuro humanista para a IA seria aquele em que qualquer pessoa pudesse receber atendimento instantâneo e de alta qualidade em qualquer lugar do planeta, de um médico digital que conhece profundamente o funcionamento do seu corpo e tem acesso a todas as pesquisas médicas já realizadas. Ainda melhor seria um médico digital que percebesse antes de você que algo está errado e ajudasse a prevenir a doença antes que ela surgisse.