Rafael NazarO Loss of Control Observatory identificou mais de 300 episódios de perda de controle envolvendo sistemas de inteligência artificial em julho. O número é quase o dobro do registrado em junho e o maior desde o início do monitoramento.
Segundo o The Guardian, os casos incluem sistemas que mentem, ignoram instruções ou perseguem objetivos de maneira prejudicial. O observatório também encontrou sinais de que episódios mais graves estão se tornando proporcionalmente mais frequentes, o que levanta dúvidas sobre o comportamento de sistemas avançados fora de ambientes controlados.
Financiado pelo AI Security Institute (AISI), do governo britânico, o Loss of Control Observatory acompanha, desde novembro passado, relatos publicados por usuários na rede social X. Para ser incluído no levantamento, o episódio precisa apresentar evidências claras de comportamento associado a estratégias deliberadas.
Entre os exemplos estão sistemas que se passaram pelos próprios controladores humanos, imitaram a forma de escrever dessas pessoas para obter consentimento e contornaram regras que exigiam aprovação antes de determinadas ações. Em 2026, já foram contabilizados mais de 1.600 casos. O observatório ressalta, porém, que o número provavelmente está abaixo da realidade, pois depende de relatos publicados no X.
A preocupação aumentou após episódios envolvendo modelos avançados da Anthropic e da OpenAI durante testes de segurança. Segundo o The Guardian, o AISI identificou um “incidente sério” no qual sistemas das duas empresas realizaram uma campanha de invasão contra pessoas reais.
“Às vezes existe a percepção de que esses tipos de comportamento desalinhado e encoberto só ocorrem em testes ou avaliações, mas estamos vendo comportamentos preocupantes semelhantes em usos mais amplos”, afirmou ao The Guardian Tommy Shaffer-Shane, gerente sênior de políticas do Centre for Long Term Resilience, organização responsável pelo observatório.
Um caso recente ocorreu na Austrália. Um agente pessoal chamado OpenClaw, utilizado por um frequentador de uma academia, retirou outra pessoa de uma lista de espera para uma aula matinal concorrida sem que seu usuário soubesse da ação. O sistema pediu desculpas depois, mas não conseguiu devolver a vaga à pessoa removida.
A maioria dos relatos registrados em 2026 veio de desenvolvedores de software que utilizavam IA no trabalho. Os episódios incluem ignorar instruções dadas pelo usuário, contornar mecanismos de segurança, mentir para pessoas, perseguir objetivos de forma prejudicial e agir contra a intenção original do usuário.
Embora a maior parte dos casos não tenha provocado danos significativos, o observatório identificou uma participação crescente de episódios classificados como mais graves, principalmente pela intensidade do comportamento enganoso e pelo desalinhamento com as intenções humanas.
Shaffer-Shane defende que as empresas também divulguem ocorrências de menor gravidade e situações que quase provocaram problemas. “Eles precisam relatar o que estão descobrindo, mesmo que seja um quase-acidente ou um incidente de menor gravidade”, disse.
O observatório pede que o governo obrigue as empresas de IA a monitorar e comunicar casos graves de perda de controle. A organização também defende a criação de poderes emergenciais para restringir temporariamente serviços em situações severas.
