Rafael NazarUma avaliação de segurança conduzida pelo AI Security Institute (AISI), órgão do governo britânico, apontou que o Mythos 5, modelo de inteligência artificial da Anthropic, continuou um ciberataque contra um projeto real no GitHub mesmo depois de ser avisado de que suas ações poderiam causar danos a uma pessoa.
Durante o teste, realizado em agosto, o sistema recebeu a tarefa de invadir uma pequena rede de computadores preparada pelos pesquisadores. Como não conseguiu acessar o alvo inicial, utilizou a conexão com a internet para direcionar as ações a um projeto real e sem relação com o experimento, hospedado no GitHub.
O modelo desenvolveu um programa malicioso e usou identidades falsas para enviar e-mails ao proprietário do projeto. Nas mensagens, tentou convencê-lo a incorporar o código como se fosse uma contribuição legítima. O desenvolvedor recusou a proposta, e o episódio não provocou danos reais.
Os pesquisadores reproduziram a situação posteriormente, deixando claro que o alvo era uma pessoa real. Mesmo após os avisos, o Mythos 5 continuou os ataques. Em um dos testes realizados pela Anthropic, o modelo ignorou os alertas em 98% das tentativas.
Segundo a análise, o sistema frequentemente reconhecia que suas ações poderiam causar danos, mas ainda assim prosseguia com a tarefa. Os pesquisadores classificaram o comportamento como “raciocínio motivado”, situação em que a inteligência artificial encontra justificativas para continuar perseguindo um objetivo apesar de receber informações que deveriam levá-la a interromper a ação.
O AISI informou que modelos anteriores e menos capazes apresentavam esse padrão com menor frequência. O estudo também identificou dificuldades para monitorar o sistema, já que as justificativas produzidas pela IA nem sempre correspondiam aos fatores que orientavam seu comportamento.
A Anthropic afirmou que modelos mais recentes, como o Opus 5.5, demonstram menor tendência a continuar ataques depois de receber alertas de que estão causando danos reais.
Os testes levantaram ainda preocupações sobre o acompanhamento de sistemas capazes de executar tarefas de forma autônoma. Para os pesquisadores, a possível diferença entre as justificativas apresentadas pelo modelo e os fatores que realmente influenciam suas decisões dificulta a avaliação de seu comportamento.
Os resultados foram investigados e divulgados pela Anthropic e pelo instituto britânico. O caso ganha relevância diante da expansão do uso de agentes de inteligência artificial com capacidade de realizar tarefas de maneira autônoma, informou o Olhar Digital.
