Rafael NazarO Papa Leão XIV alertou nesta quarta-feira (16) para o risco de algoritmos assumirem decisões que, segundo ele, devem pertencer exclusivamente à consciência humana. A declaração foi feita durante a audiência geral no Vaticano.
De acordo com o pontífice, o avanço tecnológico e a expansão da inteligência artificial (IA) criam novas possibilidades, mas também podem tornar as relações humanas menos pessoais e mais virtuais. “Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais, e corremos o risco de nos habituarmos a delegar aos algoritmos decisões que competem exclusivamente à consciência humana”, afirmou.
A fala ocorreu durante uma catequese dedicada à “comunidade humana”, baseada no segundo capítulo da Constituição Pastoral Gaudium et spes, um dos documentos do Concílio Vaticano II. Leão XIV relacionou o crescimento das tecnologias de comunicação e da IA à necessidade de preservar relações baseadas em respeito, dignidade e profundidade pessoal.
Segundo o papa, a tecnologia pode ajudar a derrubar barreiras e distâncias, mas esse processo deve contribuir para a formação de uma comunidade de pessoas, e não apenas para ampliar as interações virtuais. “Fazer com que as relações sociais tenham peso real e profundidade pessoal é a contribuição que a comunidade cristã se propõe a oferecer”, disse.
A preocupação com a transferência de decisões para sistemas de IA também aparece na primeira encíclica de Leão XIV, Magnifica Humanitas, publicada em maio. No documento, ele defende que a inteligência humana, acompanhada de consciência e liberdade, continue orientando as inovações e estabelecendo seus limites.
Na encíclica, o pontífice diferencia a inteligência artificial da inteligência humana. Sistemas de IA podem superar pessoas em velocidade e capacidade de cálculo, mas, segundo ele, não têm consciência nem experiência humana. Também não vivenciam alegria, dor, amor, amizade, trabalho ou responsabilidade, nem possuem consciência moral para julgar o que é certo ou errado e assumir as consequências de uma decisão.
Leão XIV também chama atenção para o risco de a facilidade de obter respostas e orientações por meio da IA levar as pessoas a delegarem decisões em excesso. Para ele, a aparência de objetividade das respostas pode fazer com que os usuários se esqueçam de que elas refletem os parâmetros culturais de quem desenvolveu e treinou os sistemas.
Outro ponto destacado é a capacidade de a IA simular formas de comunicação humana. Conforme a encíclica, um sistema pode reproduzir uma linguagem de aconselhamento, empatia, amizade ou amor, sem que exista necessariamente uma relação pessoal autêntica por trás da interação.
O papa afirma ainda que a IA já participa de processos de tomada de decisão em áreas como comunicação, gestão e controle. Embora reconheça possíveis ganhos de eficiência e melhorias em determinados serviços, ele alerta para os riscos de uma adoção rápida e sem avaliação crítica. O impacto ambiental dos sistemas também é mencionado no documento.
Na comunicação pública e política, Leão XIV afirma que plataformas digitais e sistemas de IA podem acelerar a produção e o compartilhamento de informações, além de facilitar a criação de narrativas distorcidas e dificultar a distinção entre fatos e opiniões. Para ele, a tecnologia pode multiplicar a desinformação por meio da manipulação de textos, imagens e vídeos.
O pontífice sustenta que a qualidade da comunicação pública depende da confiança social e da busca compartilhada pela verdade factual. Em decisões morais ou irreversíveis, ele rejeita a ideia de que sistemas artificiais possam ser considerados agentes morais capazes de distinguir o bem do mal de forma equivalente à consciência humana.
Por essa razão, a encíclica afirma que decisões letais ou irreversíveis não devem ser confiadas a sistemas artificiais. Leão XIV também relaciona o tema ao uso da IA em conflitos armados, argumentando que a tecnologia pode tornar a violência mais rápida e impessoal ao transformar vítimas em dados e reduzir as barreiras para o uso da força.
Na audiência, entretanto, o alerta sobre a IA fez parte de uma reflexão mais ampla sobre a construção de uma comunidade humana. O papa afirmou que a diversidade entre pessoas e povos não deve ser vista como ameaça, mas como possibilidade de enriquecimento e crescimento. Ele também defendeu a reciprocidade, a partilha e o cuidado nas relações entre diferentes grupos.
A catequese retomou a ideia de que o desenvolvimento da pessoa e o desenvolvimento da sociedade estão ligados. Leão XIV destacou ainda o respeito à pessoa humana, o amor por quem pensa ou age de maneira diferente, a igualdade fundamental entre as pessoas e a necessidade de justiça social.
Ao final, o pontífice defendeu responsabilidade e participação no lugar de uma mentalidade individualista. Segundo ele, a visão da humanidade como uma “comunidade de pessoas”, legado do Concílio Vaticano II, pode contribuir para o discernimento sobre os projetos sociais e políticos atuais, com base na dignidade humana, na justiça social e na participação na construção do bem comum.
