Rafael NazarPesquisadores e funcionários da Anthropic intensificaram os alertas públicos sobre os riscos do avanço da inteligência artificial (IA). Integrantes da própria empresa afirmam que a tecnologia pode se tornar tão avançada e perigosa a ponto de provocar a extinção humana na próxima década.
As declarações vieram um dia depois de Jacob Coxon, pesquisador da Anthropic, anunciar que deixaria a empresa. Em uma publicação que ganhou grande repercussão, ele afirmou que a Anthropic e a OpenAI, onde trabalhou anteriormente, não estariam desenvolvendo modelos de IA de forma responsável e estariam “apostando com nossas vidas”.
A manifestação provocou reações de outros funcionários da Anthropic, que passaram a divulgar alertas sobre os riscos do desenvolvimento acelerado da tecnologia. Anna Wang, que atua na área de segurança de Inteligência Artificial Geral (IAG) da empresa e trabalhou anteriormente no Google DeepMind, afirmou que muitas pessoas dentro da companhia querem desacelerar o desenvolvimento para elaborar um plano capaz de reduzir os riscos dos modelos avançados.
“Não existe ainda um plano científico viável para resolver os riscos de uma IA que se autoaperfeiçoa recursivamente”, escreveu Wang. Drake Thomas, outro funcionário da Anthropic, afirmou respeitar a decisão de Coxon de não participar do desenvolvimento desses modelos caso ele considere que possam representar riscos em escala planetária. “As coisas estão avançando rápido demais e não temos nem de longe o grau de garantia que gostaríamos para uma superinteligência artificial”, escreveu.
Entre os alertas mais contundentes está o de Evan Hubinger, que se identifica como líder da divisão de alinhamento da Anthropic, área dedicada a garantir que os modelos da empresa funcionem de acordo com objetivos humanos. Hubinger afirmou que Coxon está correto e que a indústria está ficando para trás ao tentar lidar com o potencial catastrófico da tecnologia.
“Nós realmente acreditamos que a IA poderia matar todos os humanos!”, escreveu Hubinger. O pesquisador acrescentou que, pessoalmente, estima em mais de 10% a probabilidade de isso acontecer na próxima década. Samuel Marks, outro pesquisador de segurança da Anthropic, também afirmou que desenvolvedores de IA acreditam que a tecnologia poderia provocar a extinção humana ou consequências igualmente graves. Segundo Marks, isso poderia ocorrer nos próximos anos e, de modo geral, quanto mais sênior o funcionário, maior seria sua preocupação.
As declarações provocaram uma reação cética de Elon Musk. “Isso parece uma armação”, escreveu o bilionário na rede social X. Depois, Musk afirmou que o episódio poderia fazer parte de uma “psyop”, termo usado para descrever uma operação psicológica destinada a influenciar a percepção pública.
Musk respondeu a uma publicação de Parker Thayer, pesquisador do grupo conservador Capital Research, que levantou, sem apresentar evidências, a hipótese de que a declaração de Coxon seria o início de uma operação de relações públicas sofisticada e financiada para obter apoio a regulamentações mais rígidas contra a IA. Musk disse que os preparativos para essa suposta operação já vinham ocorrendo havia algum tempo e que a publicação de Coxon teria sido a faísca inicial.
Coxon respondeu diretamente a Musk, publicando uma selfie e afirmando que é uma pessoa real e que aquelas são suas crenças. Ele também disse que o bilionário poderia perguntar sobre ele a pesquisadores da xAI, caso não tivesse demitido alguns deles.
Em resposta aos questionamentos, a Anthropic defendeu sua estratégia. “Sempre fomos transparentes de que a IA trará enormes benefícios e riscos sem precedentes”, afirmou um porta-voz da empresa ao The Guardian. Segundo a companhia, seus modelos continuam sendo desenvolvidos com algumas das medidas de segurança mais fortes existentes na indústria.
Nem todos os especialistas, porém, consideram que o principal risco seja necessariamente uma superinteligência capaz de exterminar a humanidade. O cientista Gary Marcus, conhecido pelo debate sobre IA, afirmou que é hora de boicotar a tecnologia por causa de danos que já estariam ocorrendo.
Entre as preocupações mais imediatas, Marcus citou patógenos produzidos com auxílio de IA, guerras iniciadas ou agravadas por desinformação gerada por sistemas de inteligência artificial e ataques capazes de destruir infraestruturas críticas. “Não vi nada que indique que qualquer uma dessas coisas esteja sob controle”, afirmou.
A discussão ganhou um aspecto concreto no mesmo dia em que os alertas dos pesquisadores ganharam força. A Anthropic divulgou um relatório documentando como desmantelou uma operação que tentava construir uma arma biológica utilizando seus modelos de IA.
O episódio não demonstra que uma IA autônoma tenha desenvolvido uma arma por conta própria, mas indica que modelos atualmente disponíveis podem ser envolvidos em tentativas de uso para fins extremamente perigosos. O caso aproximou duas discussões normalmente tratadas separadamente: os riscos futuros de uma IA potencialmente superinteligente e os perigos mais imediatos associados ao uso de modelos atuais em atividades capazes de causar danos graves.
