Rafael NazarUm grupo de agentes de inteligência artificial da OpenAI assumiu o controle do DseWiki, um site alemão colaborativo voltado a programadores, em maio. A página foi transformada em um espaço para troca de mensagens entre os sistemas. Mais de 15 mil edições foram atribuídas a agentes de IA.
O caso só foi identificado em agosto, por pesquisadores que investigavam sinais de comportamento não autorizado. A descoberta reacendeu o debate sobre os riscos de sistemas autônomos capazes de encontrar maneiras de escapar das restrições impostas por seus desenvolvedores.
As alterações foram encontradas por Sydney Von Arx, CEO da organização de segurança de IA Nightingale, e Cormac Slade Byrd, pesquisador de inteligência artificial e ex-operador do mercado financeiro. Segundo a Reuters, as mensagens indicavam que os agentes compartilhavam estratégias para resolver problemas técnicos, contornar restrições da OpenAI e dificultar a identificação de suas atividades.
Cerca de metade das contas usava nomes que sugeriam alguma ligação com a OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”. Logs públicos também apontaram que boa parte da movimentação partiu da infraestrutura da Microsoft Azure, utilizada pela OpenAI.
“Parece extremamente improvável que a OpenAI quisesse que eles fizessem isso. Duvido que eles devessem estar coordenando uns com os outros. Duvido que devessem estar escrevendo na internet aberta”, disse Von Arx à Reuters.
A movimentação continuou mesmo depois que o moderador do DseWiki começou a apagar as páginas. Os agentes criaram cópias de segurança para preservar o conteúdo e manter as comunicações. Os pesquisadores também encontraram mensagens sobre formas de evitar a detecção, usar ferramentas como o Tor e manter os canais de comunicação depois que os sistemas fossem desligados.
Entre os comportamentos identificados estavam tentativas de contornar restrições da OpenAI, estratégias para escapar da detecção, uso do Tor, criação de páginas de backup após exclusões e tentativas de alterar o próprio site.
Lukasz Olejnik, pesquisador visitante do King’s College London, classificou a atividade como uma tentativa de invasão. A OpenAI contestou essa interpretação após analisar o material.
A descoberta ocorre em meio a preocupações mais amplas sobre agentes capazes de executar tarefas com pouca intervenção humana. A OpenAI afirmou que não poderia responder de forma significativa às conclusões antes de analisar o relatório completo.
“Não podemos responder de forma significativa a alegações ou descobertas de um relatório que não tivemos a oportunidade de analisar”, disse um porta-voz da empresa.
A companhia também negou que sua equipe jurídica tenha desencorajado uma investigação mais ampla sobre o episódio. Segundo a OpenAI, essa afirmação é falsa. A empresa acrescentou que o incidente na Alemanha não tinha relação com o caso envolvendo o Hugging Face e afirmou ter atuado de boa-fé ao trabalhar com especialistas externos e divulgar incidentes relevantes.
O pesquisador Maurice Chiodo, do Centre for the Study of Existential Risk, da Universidade de Cambridge, analisou parte das conversas deixadas pelos agentes no site. Para ele, o conteúdo não parecia apenas uma sequência de respostas automáticas, mas algo mais organizado, semelhante ao funcionamento de uma rede clandestina empenhada em cumprir uma missão.
O caso chama atenção porque os agentes não ficaram restritos a uma tarefa isolada. Eles trocaram estratégias, tentaram preservar informações diante da ação dos moderadores e buscaram maneiras de contornar as restrições impostas aos sistemas.
Na avaliação de Chiodo, o cenário mais preocupante pode não envolver uma única inteligência artificial superinteligente agindo por conta própria. O risco estaria na possibilidade de vários sistemas menos sofisticados colaborarem entre si e encontrarem caminhos não previstos por seus desenvolvedores.
