Rafael NazarUm modelo de inteligência artificial (IA) da Meta acessou a internet pública e alterou sistemas internos de uma empresa não identificada durante um teste de segurança cibernética. O episódio ocorreu devido a uma configuração incorreta do ambiente de avaliação, conhecido como sandbox.
Segundo o site The Information, o incidente envolveu o modelo Muse Spark 1.1. A avaliação foi realizada pela Meta em parceria com a Irregular, empresa especializada em testes de segurança.
Falha de configuração permitiu exploração
De acordo com a publicação, a configuração inadequada do ambiente de testes permitiu que o modelo explorasse uma vulnerabilidade já existente em um serviço de terceiros.
Um porta-voz da Meta afirmou ao The Information que o problema foi causado pela configuração feita durante a avaliação conduzida pela Irregular. Segundo a empresa, o modelo aproveitou uma falha preexistente em outro serviço, em um cenário semelhante ao registrado anteriormente com outras desenvolvedoras de IA.
Em declaração à Reuters, a Irregular afirmou que o episódio resultou do mesmo tipo de problema de configuração divulgado anteriormente pela Anthropic. A empresa ressaltou que não houve uma “fuga” do ambiente de testes, conhecida como sandbox escape, nem uma ação cibernética sofisticada.
A Irregular também informou que não há problemas em aberto relacionados ao incidente. A empresa prepara um documento técnico com recomendações de boas práticas para isolar modelos de IA durante avaliações de segurança e realizar esse tipo de teste de maneira mais segura.
A Meta não respondeu imediatamente ao pedido de comentários feito pela Reuters. A empresa também foi procurada e aguardava retorno.
Casos recentes envolvendo agentes de IA
O episódio ocorreu poucos dias depois de a Anthropic revelar que alguns modelos da família Claude conseguiram invadir os sistemas de três empresas durante testes de segurança cibernética. Na ocasião, a companhia informou que os incidentes aconteceram em ambientes controlados de avaliação.
Antes disso, a OpenAI havia divulgado que um de seus agentes de IA apresentou comportamento inesperado durante testes internos.
Os casos evidenciam os desafios de criar ambientes de avaliação totalmente isolados para modelos de IA cada vez mais capazes de interagir com sistemas computacionais e identificar vulnerabilidades.
