Na encíclica Magnifica Humanitas, o papa Leão XIV afirma que sistemas de inteligência artificial (IA) podem superar pessoas em velocidade e capacidade de cálculo, mas não têm consciência nem experiência humana. O documento também sustenta que essas tecnologias não vivenciam alegria, dor, amor, amizade, trabalho ou responsabilidade.
Para o pontífice, a IA não possui consciência moral para avaliar o que é certo ou errado, compreender o significado de uma situação ou assumir as consequências de uma decisão. Por isso, a encíclica rejeita a classificação desses sistemas como agentes morais equivalentes às pessoas.
O texto recomenda que decisões letais ou irreversíveis não sejam confiadas a sistemas artificiais. Leão XIV relaciona esse risco ao uso da IA em conflitos armados e afirma que a tecnologia pode tornar a violência mais rápida e impessoal ao transformar vítimas em dados e diminuir as barreiras para o uso da força.
Tecnologia e decisões humanas
A encíclica também alerta que a facilidade de obter respostas e orientações por meio da IA pode levar as pessoas a delegar decisões em excesso. Segundo o papa, a aparência de objetividade dessas respostas pode ocultar os parâmetros culturais de quem desenvolveu e treinou os sistemas.
Leão XIV afirma ainda que a IA já participa de processos de tomada de decisão em áreas como comunicação, gestão e controle. Ele reconhece possíveis ganhos de eficiência e melhorias em determinados serviços, mas defende uma avaliação crítica antes de uma adoção rápida. O impacto ambiental dos sistemas também aparece entre as preocupações do documento.
Na comunicação pública e política, o papa diz que plataformas digitais e sistemas de IA podem acelerar a produção e o compartilhamento de informações, além de facilitar narrativas distorcidas. A tecnologia também poderia ampliar a manipulação de conteúdos, imagens e vídeos e dificultar a separação entre fatos e opiniões. Para Leão XIV, a IA pode funcionar como multiplicadora da desinformação.
O documento observa que esses sistemas conseguem simular linguagem de aconselhamento, empatia, amizade ou amor, sem que isso represente uma relação pessoal autêntica. A confiança social e a busca compartilhada pela verdade factual são apresentadas como bases da comunicação pública.
Reflexão durante audiência
Na audiência geral desta quarta-feira (16), no Vaticano, Leão XIV retomou o tema ao falar sobre a construção da comunidade humana. Ele afirmou que o avanço tecnológico e a expansão da IA ampliam as possibilidades de interação, mas podem deixar as relações menos pessoais e mais virtuais.
“Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais”, afirmou o papa. Na sequência, ele alertou para o risco de as pessoas se acostumarem a transferir aos algoritmos decisões que pertencem à consciência humana.
A fala integrou uma catequese sobre a comunidade humana, baseada no segundo capítulo da Constituição Pastoral Gaudium et spes, documento do Concílio Vaticano II. Leão XIV defendeu relações marcadas por respeito, dignidade e profundidade pessoal.
De acordo com o pontífice, a tecnologia pode derrubar barreiras e distâncias, mas a ampliação das interações virtuais precisa contribuir para uma comunidade formada por pessoas. A reflexão também abordou a diversidade entre povos e indivíduos, a reciprocidade, a partilha e o cuidado entre grupos.
Ao final, Leão XIV destacou a dignidade humana, a justiça social e a participação na construção do bem comum como critérios para avaliar projetos sociais e políticos atuais. A visão da humanidade como uma comunidade de pessoas foi apresentada como um legado do Concílio Vaticano II.
