O papa Leão XIV instou os governos a desacelerarem o desenvolvimento de sistemas de inteligência artificial em seu primeiro documento importante, divulgado nesta segunda-feira (25), alertando que eles disseminam desinformação, priorizam conflitos e correm o risco de levar o mundo a um caminho de guerras intermináveis.
Leão XIV, que adotou um tom mais enérgico nos últimos meses e despertou a ira do presidente dos Estados Unidos, Donald Trump, após criticar a guerra no Irã, fez uma série de apelos veementes aos líderes mundiais no extenso texto, conhecido como encíclica.
O primeiro papa dos EUA pediu que a propriedade dos dados de IA não seja deixada exclusivamente em mãos privadas, que os formuladores de políticas protejam os direitos dos trabalhadores e mantenham as crianças a salvo da tecnologia, fazendo um apelo também pela redução da competição entre as empresas de inteligência artificial.
“O que é necessário é um envolvimento político mais ativo, capaz de desacelerar as coisas quando tudo está se acelerando”, declarou o pontífice no texto, intitulado “Magnifica Humanitas” (Magnífica Humanidade).
O papa pediu “estruturas legais robustas, supervisão independente, usuários informados e um sistema político que não abdique de sua responsabilidade”.
As encíclicas são uma das mais elevadas formas de ensinamento de um pontífice aos 1,4 bilhão de fiéis da Igreja.
O texto altamente aguardado desta segunda-feira (25), com quase 43 mil palavras, estava em desenvolvimento desde a eleição de Leão XIV como papa, há pouco mais de um ano.
Papa Leão denuncia guerras pelo mundo
O documento, que abordou a inteligência artificial como tema principal, também denunciou o número de guerras que assolam o mundo, lamentou o enfraquecimento das organizações multilaterais e alertou que os lucros da indústria armamentista são uma força motriz por trás dos conflitos.
“Os últimos 60 anos foram marcados por conflitos de brutalidade assombrosa, que muitas vezes afetaram populações civis em larga escala”, afirmou Leão XIV no texto em inglês.
“A humanidade está mergulhando em uma cultura violenta de poder, onde a paz não é mais vista como uma responsabilidade a ser assumida, mas como um frágil intervalo entre conflitos”, afirmou ele.
Leão também fez uma das declarações mais claras até o momento de um papa repudiando a teoria da guerra justa, doutrina que a Igreja usa desde pelo menos o século V para avaliar conflitos globais.
A doutrina, que geralmente afirma que as guerras só devem ser travadas para se defender de agressões, também foi invocada por integrantes do governo Trump, incluindo o vice-presidente JD Vance, católico, para defender a guerra com o Irã.
“A teoria da ‘guerra justa’, que muitas vezes tem sido usada para justificar qualquer tipo de guerra, está agora ultrapassada”, escreveu Leão.
“O uso da força, da violência e das armas reflete uma pobreza relacional que sempre tem consequências desastrosas para as populações civis”, acrescentou.
O pontífice também expressou preocupação com a possibilidade de líderes iniciarem guerras para distrair os cidadãos de problemas internos.
“Não podemos descartar a possibilidade de que alguns líderes considerem o conflito armado uma forma eficaz de desviar a atenção dos problemas internos e uma ferramenta cínica para gerir dificuldades”, afirmou.
“Novas formas de escravidão”
O pontífice afirmou que qualquer uso de inteligência artificial em guerras “deve estar sujeito às mais rigorosas restrições éticas” e considerou “inadmissível” confiar decisões letais a sistemas de IA.
Leão XIV, o 14º papa a adotar esse nome, citou séculos de ensinamentos papais anteriores sobre questões de justiça social antes de abordar a ética dos sistemas de IA.
Ele invocou especificamente seu antecessor, Leão XIII, que publicou uma famosa encíclica em 1891, na qual clamava por melhores salários e condições de trabalho para os operários durante a Revolução Industrial.
O líder da Igreja Católica denunciou o que chamou de “novas formas de escravidão” sofridas por pessoas que operam sistemas de IA e por trabalhadores de fábricas que produzem os dispositivos tecnológicos, como computadores e smartphones, nos quais a IA é utilizada.
“Em algumas regiões do mundo, crianças e adolescentes trabalham em condições perigosas, triturando os materiais dos quais são extraídos elementos de terras raras”, escreveu o pontífice.
“Os corpos dessas pessoas estão marcados, feridos e desgastados para que o fluxo computacional possa continuar ininterruptamente”, pontuou ele. “Essa realidade desafia profundamente a consciência moral do nosso tempo.”
O papa também reconheceu que a Igreja Católica não condenou veementemente a escravidão transatlântica até o século XIX e fez um pedido pessoal de desculpas.
“Isso constitui uma ferida na memória cristã”, escreveu ele. “Por isso, em nome da Igreja, peço sinceramente perdão.”
Papa alerta mundo a abordar riscos da IA
Leão XIV, que afirmou na abertura da carta que queria se dirigir aos católicos e a todas as pessoas de boa vontade, disse que a sociedade deve enfrentar “questões cruciais” sobre como a IA está se desenvolvendo e a direção geral da liderança global.
Invocando a história bíblica da Torre de Babel — em que uma tribo humana, movida pelo orgulho, tenta construir uma torre alta o suficiente para alcançar o céu, enfurecendo a Deus —, o papa afirmou que a história mostra o risco de qualquer empreendimento que “aspire a alcançar o céu sem a bênção de Deus”.
“Com o coração de um pastor e de um pai, peço a todos que abandonem a construção de mais uma Torre de Babel e unam forças na construção do bem comum”, declarou o papa.
Leão XIV instou o mundo a não desistir de abordar os possíveis riscos dos sistemas de IA.
“Uma tentação sutil pode surgir, a saber, a ideia de que os problemas são grandes demais e nós somos pequenos demais, e que, portanto, nossas escolhas não podem fazer a diferença”, escreveu ele.
“Certamente, nem todos têm o mesmo poder para fazer a diferença”, disse Leão XIV.
“No entanto, ninguém está isento de responsabilidade. Todos nós temos nossas próprias áreas de atuação”, acrescentou ele.
