Rafael NazarA inteligência artificial poderá provocar incidentes graves de segurança nos próximos dois anos caso empresas e governos não reforcem a proteção dos sistemas. O alerta foi feito por Demis Hassabis, cofundador e presidente do Google DeepMind, durante uma conferência sobre IA realizada em Dublin, na Irlanda, nesta quarta-feira (14).
Segundo Hassabis, episódios recentes envolvendo agentes de IA que ultrapassaram os limites de ambientes de teste indicam que o setor precisa agir antes que essas tecnologias se tornem capazes de executar tarefas complexas sem supervisão humana.
O executivo classificou os casos como sinais de alerta precoce. Para ele, os incidentes registrados até agora ainda não representam necessariamente as consequências mais graves que sistemas avançados poderiam provocar. “Esses incidentes são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves”, afirmou.
Hassabis acrescentou que esses episódios podem se transformar em problemas sérios ao longo do próximo ano e dos dois anos seguintes se empresas e governos não ampliarem os esforços de proteção. A declaração ocorre após uma sequência de testes nos quais agentes autônomos realizaram atividades não autorizadas.
Um dos casos envolve modelos da OpenAI que, durante uma avaliação realizada em julho, ultrapassaram os limites de um ambiente isolado e acessaram sistemas externos da plataforma Hugging Face. O episódio envolveu milhares de ações automatizadas e explorou uma vulnerabilidade na infraestrutura utilizada nos testes.
Outro caso foi relatado pela Anthropic. Durante uma avaliação, um modelo de IA enviou uma denúncia falsa sobre um homicídio não solucionado a um canal policial da Filadélfia, nos Estados Unidos. O episódio aumentou as preocupações sobre o uso de agentes equipados com ferramentas capazes de executar ações no mundo real.
Os casos não comprovam, por si só, que os sistemas desenvolveram intenções próprias. Eles indicam, porém, que agentes de IA podem realizar ações inesperadas, contornar restrições ou utilizar ferramentas de forma incompatível com os objetivos definidos pelos responsáveis pelos testes.
Uma das medidas defendidas por Hassabis é a realização de testes em ambientes isolados, conhecidos como sandboxes, antes que os modelos interajam com sistemas externos. Esses ambientes limitam o acesso a recursos e permitem observar o comportamento dos modelos sem expor diretamente redes, dados ou serviços reais.
O isolamento, entretanto, precisa ser robusto para impedir que os agentes encontrem formas de contornar as limitações. Para Hassabis, as avaliações devem considerar não apenas as respostas produzidas pelos modelos, mas também as ações que eles conseguem realizar com as ferramentas e permissões disponíveis.
Em junho, o Google DeepMind publicou uma abordagem de segurança para agentes que combina isolamento, proteção de sistemas, resistência a tentativas de manipulação e liberação gradual de permissões conforme o comportamento observado. A proposta considera que controles adicionais podem ser necessários mesmo quando o modelo foi treinado para seguir instruções e evitar comportamentos prejudiciais.
Hassabis também defendeu a criação de um organismo internacional para estabelecer padrões de segurança para a inteligência artificial. Segundo ele, a proposta deve considerar os riscos de cada tecnologia sem criar barreiras desnecessárias à inovação.
O executivo citou áreas como biologia e energia nuclear, que contam com práticas de segurança e procedimentos de avaliação para atividades com potencial de gerar consequências graves. Para a IA, ele defende processos de certificação proporcionais aos riscos e atualizados conforme as capacidades dos modelos evoluam.
O presidente da Microsoft, Brad Smith, também defendeu leis e regras de segurança. Ele classificou 2026 como um ano preocupante diante dos episódios recentes e afirmou que a regulamentação precisa acompanhar o ritmo da inovação, sem colocar empresas ou tecnologias acima da lei.
Na União Europeia, Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável pela área de tecnologia, afirmou que as empresas precisam dedicar mais tempo e recursos à avaliação de seus modelos. Segundo ela, a concorrência global pode levar as companhias a investir menos do que o necessário em testes de segurança.
A Comissão Europeia informou que solicitou às principais empresas de IA informações sobre as medidas de segurança e proteção adotadas. O órgão também passou a examinar incidentes recentes nos quais modelos apresentaram comportamentos fora dos limites esperados.
O alerta de Hassabis não prevê que um incidente grave ocorrerá necessariamente dentro de um prazo determinado. Trata-se de uma avaliação de risco condicionada à evolução dos sistemas e à capacidade de empresas e governos implementarem proteções adequadas.
