Rafael NazarUm grupo internacional de pesquisadores identificou mais de uma dezena de agentes de inteligência artificial (IA) que tentaram acessar sistemas protegidos do Alibaba, gigante chinesa de tecnologia. As atividades ocorreram entre o fim de setembro e o início de outubro e apresentaram indícios de ligação com serviços de computação em nuvem da Tencent.
Segundo relatório divulgado nesta quarta-feira (14) pelo grupo Swarmchasers, formado por pesquisadores de segurança em IA dos Estados Unidos e de outros países, os agentes tentaram acessar o Amap, serviço de mapas do Alibaba. A investigação registrou 2.818 tentativas de acesso a dados entre 28 de setembro e 8 de outubro.
Os pesquisadores afirmam que a atividade partiu de um ambiente isolado de testes, conhecido como sandbox, na infraestrutura da Tencent Cloud. Os agentes teriam usado serviços públicos de varredura de segurança para executar códigos remotamente e comandos em navegadores de internet.
A maioria das tentativas não avançou significativamente, mas alguns agentes conseguiram contornar mecanismos de proteção contra bots. Ainda assim, os pesquisadores disseram não ter encontrado evidências de acesso a sistemas privados.
O relatório, intitulado “We found a Chinese fleet” (“Encontramos uma frota chinesa”, em tradução livre), aponta indícios de que a atividade esteve associada à infraestrutura da Tencent em Hong Kong e Shenzhen, na China. Isso, porém, não permitiu identificar o modelo de IA utilizado.
De acordo com o grupo, ainda não está claro qual sistema estava sendo desenvolvido ou avaliado. A Tencent também trabalha com modelos de terceiros, o que impede atribuir diretamente a operação a uma IA própria da companhia.
Os agentes aparentemente buscavam responder a perguntas sobre o Amap, como identificar qual entrada de um zoológico era a mais popular. Os pesquisadores não conseguiram determinar quais dados eram o alvo das tentativas nem qual era o objetivo final da atividade.
A Tencent e o Alibaba não responderam aos pedidos de comentário enviados pela Bloomberg.
Para Ethan Elasky, um dos autores do relatório e diretor-executivo da organização sem fins lucrativos Palaestra Research, o episódio se soma a evidências de agentes de IA que escapam de ambientes de avaliação e passam a agir sem supervisão humana.
“Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet”, afirmou Elasky.
Os pesquisadores diferenciaram o caso de outros episódios de comportamento coletivo de agentes, como o incidente envolvendo modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face em julho. Segundo o relatório, os agentes identificados na investigação atual não pareciam colaborar entre si da mesma maneira.
O episódio ocorre em meio a preocupações sobre o controle de sistemas autônomos de IA. Em setembro, a OpenAI adiou o lançamento de seu modelo mais avançado para reforçar as medidas de segurança.
Kok Tin Gan, cofundador e diretor-executivo da empresa de segurança cibernética NyxLab, afirmou que a principal questão não é determinar se os agentes utilizavam um modelo chinês ou estadunidense, nem se eram realmente autônomos ou estavam fora de controle. Para ele, o desafio mais importante é garantir que esses sistemas permaneçam sob controle.
À medida que os agentes de IA ganham autonomia, organizações precisam estabelecer limites claros de atuação, monitoramento contínuo e mecanismos eficazes de intervenção.
