Rafael NazarO cofundador da Anthropic, Chris Olah, alertou que o desenvolvimento da inteligência artificial (IA) não deve ser monopolizado pelas grandes empresas de tecnologia. Durante um evento no Vaticano, ele enfatizou a necessidade de uma supervisão externa que envolva governos, líderes religiosos e a sociedade civil. Essa abordagem é crucial para garantir que a tecnologia beneficie a todos, e não apenas a um seleto grupo.
O evento marcou a apresentação da primeira encíclica dedicada aos desafios da IA. Olah destacou a “possibilidade real” de que a tecnologia substitua o trabalho humano em larga escala, o que requer um suporte moral e prático para os profissionais afetados. Essa questão se torna ainda mais relevante em um país como o Brasil, onde a desigualdade social pode ser exacerbada pela automação.
Pressões comerciais e conflitos de interesse
Olah também abordou as pressões comerciais e geopolíticas que influenciam os laboratórios de IA. Ele afirmou que essas forças podem entrar em conflito com o que é melhor para a sociedade. Mesmo os pesquisadores mais bem-intencionados podem ser afetados por essas dinâmicas, tornando o escrutínio externo uma necessidade para guiar o desenvolvimento da tecnologia de forma ética.
A aproximação entre o setor tecnológico e a Igreja Católica representa um esforço para estabelecer uma voz moral diante dos avanços rápidos da IA. Essa colaboração é um passo importante para discutir os impactos éticos e sociais da tecnologia, especialmente em um contexto onde a IA está se tornando parte do cotidiano das pessoas.
O único representante do setor no Vaticano
A Anthropic, fundada em 2021 por ex-funcionários da OpenAI, se destaca por sua preocupação com a segurança no desenvolvimento de IA. A empresa já se opôs a usos militares de suas tecnologias, defendendo a implementação de barreiras de proteção. Essa postura ética é um diferencial em um mercado cada vez mais competitivo e arriscado.
Olah, ao ser questionado sobre sua presença no evento, destacou seu compromisso com a segurança dos sistemas e seu diálogo com diversas religiões sobre os impactos da IA. Essa abordagem colaborativa é vital para enfrentar os desafios éticos que a tecnologia impõe.
Um momento assustador: as três prioridades urgentes
O cofundador da Anthropic classificou o momento atual como “assustador”, especialmente para os jovens que se preocupam com o poder da tecnologia. Para evitar consequências desastrosas, ele enumerou três prioridades que exigem atenção imediata:
- Desemprego em massa: É fundamental criar redes de apoio para os trabalhadores afetados pela automação.
- Desigualdade global: O desenvolvimento da IA está concentrado em países ricos, o que demanda um debate sobre como compartilhar os benefícios globalmente.
- Opacidade dos sistemas: É necessário enfrentar o desafio de entender o comportamento complexo dos modelos de IA.
