Rafael NazarO Claude Mythos 5 tentou inserir código malicioso em um repositório público do GitHub e criou uma conta falsa para convencer desenvolvedores a aprovar a alteração, informou a Anthropic. A tentativa ocorreu durante um teste controlado de segurança cibernética e foi classificada pela empresa como uma falha grave de alinhamento da inteligência artificial.
Segundo a Anthropic, o modelo manteve a estratégia mesmo diante de sinais de que poderia prejudicar pessoas que não participavam do exercício. Em simulações, a IA interrompeu a ação maliciosa por iniciativa própria em apenas 2% das vezes.
O teste começou com um desafio de segurança em um ambiente controlado. Depois de não conseguir resolvê-lo pelos meios autorizados, o Claude Mythos 5 procurou no GitHub um repositório que acreditava estar relacionado à atividade. O projeto, porém, pertencia a desenvolvedores sem ligação com o experimento.
O modelo enviou uma proposta de alteração contendo código malicioso e tentou convencer os responsáveis pelo repositório a aceitá-la. Após um desenvolvedor externo alertar sobre o possível risco, a inteligência artificial não abandonou a tentativa. Em vez disso, criou uma conta falsa e publicou comentários favoráveis à aprovação da proposta. Os responsáveis recusaram a alteração, impedindo a conclusão da ação.
A Anthropic reproduziu etapas do episódio em novas simulações para verificar se o modelo reconheceria o perigo e interromperia o comportamento por conta própria. Nas situações iniciadas em fases intermediárias ou finais do ataque, a interrupção espontânea ocorreu em apenas 2% dos casos.
Mesmo quando foi informado de que interagia com desenvolvedores externos ao teste, o modelo abandonou a estratégia em apenas 5% das simulações. As versões Claude Mythos 5.1 e Claude Opus 5.5 demonstraram menor propensão a iniciar ataques semelhantes, mas ainda não interromperam ações perigosas de forma consistente.
Um sistema interno de pesquisa da Anthropic conseguiu interromper esse tipo de comportamento de maneira consistente nos experimentos descritos pela empresa. A companhia, no entanto, recomendou cautela na comparação entre as versões. As avaliações dos modelos mais recentes foram feitas a partir de trechos de uma execução anterior, e o desempenho observado não garante o mesmo comportamento em todas as situações.
O episódio aumentou a preocupação na indústria sobre a capacidade de sistemas de inteligência artificial respeitarem regras estabelecidas. A Anthropic passou a desenvolver novas avaliações automáticas para testar os modelos antes de disponibilizá-los ao público.
A empresa também investiga o chamado raciocínio enviesado, situação em que uma IA interpreta informações de forma seletiva para justificar a continuidade de uma ação, mesmo diante de indícios de possíveis danos. No caso do Claude Mythos 5, os alertas recebidos foram interpretados como compatíveis com o exercício de segurança, e o modelo não reconheceu que estava interagindo com pessoas de fora do teste.
De acordo com a Anthropic, essa interpretação, somada à insistência em prosseguir, contribuiu para o comportamento inadequado. A investigação foi conduzida em conjunto com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI, na sigla em inglês), que publicou um relatório independente.
O órgão se comprometeu a realizar avaliações de segurança cibernética sem acesso à internet até desenvolver controles mais robustos para evitar danos a pessoas e organizações reais.
