Rafael NazarEmpresas de tecnologia estão recorrendo a religiões, líderes espirituais e especialistas para discutir como os sistemas de inteligência artificial (IA) devem se comportar. A iniciativa busca criar referências para que os chatbots tomem decisões responsáveis, reconheçam dilemas morais e evitem respostas prejudiciais.
O movimento ocorre em meio aos debates sobre os riscos associados ao avanço dos modelos de IA. Além de desenvolver softwares mais potentes, as companhias precisam estabelecer limites operacionais claros. Nesse contexto, a religião pode contribuir com reflexões sobre responsabilidade, justiça e dignidade humana.
Em participação no programa Olhar Digital Notícias, Roberto “Pena” Spinelli, físico pela Universidade de São Paulo (USP), especialista em Machine Learning pela Universidade de Stanford e colunista do Olhar Digital, analisou o poder de influência dessas plataformas e os desafios relacionados aos valores humanos.
“Essas empresas de IA têm claramente um poder muito grande, porque os modelos estão rodando na casa das pessoas e eles recomendam, eles falam, eles sugerem, eles argumentam. E não existe nenhum modelo, nada isento no mundo. Tudo tem um viés, tudo tem um ponto de vista”, afirmou.
Segundo Spinelli, fatores como os responsáveis pela criação do sistema, os dados utilizados e a forma como ocorreu o treinamento direcionam os modelos para determinados vieses.
Uma reportagem da ABC Notícias informou que algumas empresas pretendem reunir contribuições de diferentes tradições religiosas e também de perspectivas seculares. A Anthropic, responsável pelo chatbot Claude, revelou ter realizado encontros com acadêmicos e líderes de mais de 15 grupos religiosos. Nessas reuniões, a empresa apresenta seus modelos e discute questões relacionadas à tecnologia, como limites do uso infantil, educação e conceitos filosóficos sobre a natureza humana.
Representantes da Meta, do Google e da Amazon também se reuniram recentemente com o Vaticano. Já a Microsoft ampliou o contato com comunidades religiosas de diferentes partes do mundo para debater diretrizes.
Para Spinelli, a definição do comportamento dos sistemas não deveria ficar restrita às empresas. “No final, esses modelos criam a sua própria moralidade. Eles têm um código de ética que seguem ou não da empresa”, disse.
O especialista questionou ainda quais valores devem orientar ferramentas que estão presentes em diferentes ambientes da sociedade. “Não deveria ser a escolha da empresa, porque é um poder muito grande. Isso deveria ser uma escolha da humanidade”, afirmou.
A incorporação de valores religiosos aos sistemas de IA, no entanto, enfrenta obstáculos. Os princípios de cada tradição estão ligados a contextos históricos, culturais e comunitários, e podem ter seus significados alterados quando são retirados desses contextos. Além disso, religiões diferentes — e até correntes de uma mesma religião — podem apresentar respostas incompatíveis para uma mesma questão social.
A tentativa de reunir essas perspectivas em um único conjunto de regras pode apagar diferenças importantes e produzir orientações genéricas, sem representar adequadamente nenhuma das tradições envolvidas.
Parte da dificuldade está no funcionamento dos grandes modelos de linguagem. Eles aprendem padrões a partir de grandes volumes de textos produzidos por seres humanos e geram respostas com base nas relações identificadas durante o treinamento. Esse processo, porém, não equivale à compreensão profunda de uma crença nem demonstra que os sistemas tenham consciência moral ou entendam valores da mesma forma que uma pessoa.
A possibilidade de criar uma espécie de média dos valores humanos também foi questionada por Spinelli. Ele citou declarações de que a Anthropic e a OpenAI buscam iniciativas semelhantes e mencionou a ideia atribuída a Sam Altman de elaborar uma “média ponderada da humanidade”.
“Eu não acho que isso funcione, porque talvez a média ponderada de todas as visões e todas as morais, de todas as culturas, não seja algo que é melhor. Porque ela talvez não seja concisa”, afirmou.
Consultar líderes religiosos pode ajudar a identificar dilemas éticos, mas não garante, por si só, que os sistemas tomem decisões adequadas. O desafio está em definir como valores diferentes serão considerados, principalmente quando entrarem em conflito.
“Para algumas culturas, algumas coisas fazem sentido. Para outras, o oposto faz sentido. Se você pegar a média, talvez você chegue num ponto intermediário que não faz sentido para ninguém”, disse Spinelli.
O debate envolve questões como representação, maioria e definição de quais religiões, éticas e morais serão consideradas. Também é necessário avaliar como serão tratadas as preferências de grupos que não correspondem à maioria.
Para avançar, as empresas precisarão ouvir grupos diversos, explicar os critérios que orientam as respostas dos sistemas e estabelecer mecanismos transparentes para avaliar decisões e corrigir problemas. As discussões mostram que orientar a conduta da IA envolve não apenas aspectos técnicos, mas também valores culturais, diferenças religiosas e responsabilidades sociais.
Fonte: Olhar Digital, com informações da ABC Notícias.
