O papa Leão XIV declarou que o controle da inteligência artificial não deve permanecer nas mãos de “poucos”, ao mesmo tempo que alerta que a tecnologia está alimentando conflitos mundiais, apresentando suas propostas no primeiro grande documento teológico de seu pontificado.
Entre elas, estão a proteção da singular “grandeza da humanidade” em meio à rápida evolução tecnológica e a exigência de que o uso da IA na guerra esteja sujeito às “mais rigorosas restrições éticas”.
Embora a encíclica se concentre na IA, o texto vai além das questões tecnológicas e aborda crises que a humanidade enfrenta.
O pontífice Leão XIV afirmou que a teoria da “guerra justa” – uma doutrina cristã de quatro pontos que define as condições que justificam a guerra – está “agora ultrapassada”, afirmando que a força militar só pode ser usada para “legítima defesa no sentido mais estrito”.
Ele acrescenta que o “teste decisivo” para a justiça social é o tratamento dado aos imigrantes e refugiados e pediu desculpas pela legitimação da escravidão pela Igreja e pela demora em denunciar esse flagelo.
O líder da Igreja Católica, que fez da pacificação um ponto central de seu pontificado, adverte que o uso da “força, da violência e das armas” acaba por “ter consequências desastrosas para as populações civis”.
“A construção de um mundo em estado de conflito perpétuo é um mal e deve ser chamada pelo que é”, escreve Leão XIV, acrescentando que “a humanidade possui ferramentas muito mais eficazes e capazes para promover a vida humana e resolver conflitos, como o diálogo, a diplomacia e o perdão.”
Sua oposição à Guerra Justa surge após declarações do vice-presidente dos Estados Unidos, JD Vance, de que o papa “deveria ter cuidado ao falar sobre assuntos de teologia”, depois que o líder espiritual católico criticou veementemente os ataques conjuntos EUA-Israel contra o Irã e repreendeu líderes mundiais por invocarem linguagem religiosa para justificar a guerra.
Paralelos entre a IA e a ‘Torre de Babel’
No texto, o papa também apela para que uma série de princípios sejam aplicados ao desenvolvimento da IA, incluindo uma distribuição mais justa dos recursos, a dignidade da pessoa humana, a justiça social e o cuidado com o meio ambiente.
Inspirando-se em uma história bíblica, o Leão XIV alerta que, com a inteligência artificial, a humanidade corre o risco de construir uma “Torre de Babel”, que foi uma tentativa de as pessoas “criarem um nome” para si mesmas com um único poder e uma única língua.
Segundo o pontífice, a história é um alerta contra um plano que “domina e, em última instância, desumaniza”, insistindo, em vez disso, que diversas opiniões e grupos devem contribuir para o desenvolvimento da IA.
O pontífice insiste que a tecnologia deve proteger os empregos das pessoas e precisa estar sujeita a “estruturas legais robustas, supervisão independente, usuários informados e um sistema político que não abdique de sua responsabilidade”.
A importância da encíclica
Tradicionalmente, uma encíclica é uma carta enviada pelo pontífice aos bispos e à Igreja Católica Romana em geral, mas recentemente seu significado se ampliou, com o papa Francisco utilizando a primeira encíclica de seu papado para se dirigir ao mundo inteiro sobre a proteção do meio ambiente.
O documento de Leão XIV sobre Inteligência Artificial, “Magnifica Humanitas” (“Magnífica Humanidade”), está sendo considerado um texto igualmente marcante para seu papado, abordando um tema que define uma época e que ele dirigiu aos católicos e a “toda pessoa de boa vontade”.
O atual líder católico identificou a inteligência artificial como uma prioridade máxima e é o primeiro pontífice a apresentar pessoalmente uma encíclica ao mundo no Vaticano.
Pontífices anteriores normalmente delegavam essa função de apresentação de uma encíclica a cardeais ou outras figuras importantes.
Desta vez, o papa supervisionou o lançamento do livreto de 235 páginas juntamente com Chris Olah, cofundador da Anthropic, uma empresa de inteligência artificial que está em disputa judicial com o governo Trump devido ao uso de sua tecnologia em operações militares e de defesa.
Olah fez coro ao apelo de Leão XIII por maior responsabilização dos magnatas da IA nesta segunda-feira (25), afirmando que as decisões “não devem ser deixadas nas mãos de pessoas da indústria”.
Ele listou três princípios que exigem uma resolução coletiva – incluindo um “dever para com os pobres do mundo”, “imaginação moral e ambição” e a “necessidade de discernimento”.
“Todos os laboratórios de IA de ponta, incluindo o Anthropic, operam dentro de um conjunto de incentivos e restrições que, por vezes, podem entrar em conflito com a prática correta”, disse Olah a uma plateia no Vaticano.
“Se queremos que essa tecnologia prospere, é extremamente importante que haja pessoas fora desses incentivos… que estejam dispostas a serem nossas críticas sinceras e ponderadas”, acrescentou. “É isso que vejo na Magnifica Humanitas.”
O texto do pontífice delineia uma abordagem à IA que não rejeita as oportunidades oferecidas pela tecnologia, nem a vê como a porta de entrada para um futuro utópico.
Sua encíclica busca oferecer os recursos da doutrina social católica – o engajamento com a vida política e cívica – à discussão sobre IA. A principal preocupação dele é manter a centralidade e a dignidade única da pessoa humana.
Para isso, o primeiro papa americano critica o “transhumanismo”, a ideia de que a tecnologia pode ajudar uma pessoa a superar limitações físicas e biológicas, como o envelhecimento, e o “pós-humanismo”, que questiona a singularidade dos seres humanos e dilui as fronteiras entre humanos e máquinas.
“Não podemos considerar a IA moralmente neutra”, escreve Leão XIV. “Toda ferramenta técnica incorpora escolhas e prioridades através do que mede, ignora e otimiza, e de como classifica pessoas e situações.”
*Em atualização