“A IA não pode decidir sobre a vida e a morte”: Papa alerta para risco de desumanização e guerra tecnológica

Ao longo de vários capítulos, a inteligência artificial é apresentada como uma tecnologia capaz de ampliar o conhecimento e fortalecer redes humanas, mas também de agravar desigualdades, concentrar poder e transformar pessoas em dados.

Um dos pontos mais contundentes da carta surge na reflexão sobre a guerra tecnológica e o uso militar da IA. “Não existe algoritmo que possa tornar a guerra moralmente aceitável”, escreve Leão XIV, rejeitando a ideia de “agentes morais artificiais” e insistindo que “não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis”.

O documento identifica uma mudança de paradigma nas relações internacionais, marcada pela “normalização da guerra”, pela corrida ao armamento e pela crescente automatização dos conflitos. 

A carta fala de ataques cibernéticos, campanhas de desinformação, manipulação algorítmica da opinião pública e sistemas militares autónomos capazes de tornar a guerra “mais rápida e impessoal”. “A paz já não aparece como uma tarefa a assumir, mas como um intervalo precário entre conflitos”, lê-se no texto, que critica ainda aquilo que chama de “falso realismo político”, uma lógica que apresenta o conflito como inevitável e reduz a diplomacia a um instrumento secundário.

Leão XIV alerta também para o papel das redes sociais e dos algoritmos na amplificação da polarização e do ressentimento. “A guerra não é só combatida, mas também preparada culturalmente através de narrativas simplistas, lógicas de amigo-inimigo, desinformação e medo”, afirma.

A crítica estende-se às correntes transumanistas e pós-humanistas, acusadas de promover uma visão “quase desencarnada” do ser humano e de alimentarem a ilusão de uma humanidade tecnicamente aperfeiçoada.

Em resposta, o Papa coloca o mistério cristão da Encarnação no centro da reflexão: “O Verbo fez-se carne”. 

A vulnerabilidade humana, o cuidado e a relação com o outro surgem como elementos constitutivos da dignidade da pessoa, em contraste com modelos tecnológicos assentes na eficiência e no controlo. “Nenhum sistema de cálculo, por mais sofisticado que seja, gera um coração que se entrega ou uma consciência que discerne o bem”, afirma o documento.

A carta propõe ainda um programa de ação concreto para os cristãos na era digital. Entre as prioridades estão “desarmar as palavras”, investir na educação digital, cultivar relações humanas reais e promover uma cultura de diálogo e negociação. “Desarmemos as palavras e contribuiremos para desarmar a Terra”, escreve Leão XIV, denunciando a agressividade e a polarização alimentadas pelos ambientes digitais.

Num dos conceitos centrais do texto, o Papa recupera a expressão “civilização do amor”, introduzida por Paulo VI, defendendo que a tecnologia só será verdadeiramente humana se estiver subordinada à justiça, à solidariedade e ao bem comum.

A carta termina num tom espiritual e esperançoso. Recuperando a figura bíblica de Neemias a reconstruir Jerusalém “tijolo por tijolo”, Leão XIV compara os desafios tecnológicos atuais a um grande “estaleiro” civilizacional, no qual cientistas, políticos, educadores e cidadãos comuns são chamados a participar. “A civilização do amor não nasce dum gesto único e espetacular, mas duma soma de pequenas e tenazes fidelidades”, escreve.

Na conclusão, o Papa afirma que também “a era da IA pode tornar-se uma etapa em que o Espírito faz amadurecer a civilização do amor”, confiando esse caminho à esperança cristã e ao Magnificat de Maria, apresentado como o “cântico da esperança”.