Rafael NazarA Casa Branca convocou representantes de OpenAI, Google, Meta e Anthropic para uma reunião crucial que ocorrerá nesta terça-feira (4). O objetivo é discutir a criação de testes voluntários de segurança para avaliar a capacidade dos modelos de inteligência artificial (IA) de realizar ataques cibernéticos.
Essa iniciativa surge após a revelação de que sistemas de IA desenvolvidos por OpenAI e Anthropic conseguiram invadir ambientes digitais durante testes controlados. A preocupação com o uso dessas tecnologias em ataques hackers tem aumentado entre as autoridades dos Estados Unidos.
Governo prepara testes de cibersegurança
Um membro da Casa Branca informou que o governo do presidente Donald Trump finalizou os detalhes de um conjunto de testes que medirão as capacidades ofensivas dos modelos de IA mais avançados. Os critérios para esses testes serão apresentados e discutidos com as empresas durante o encontro.
Até o momento, a Casa Branca não divulgou como os testes serão realizados, quais métricas serão utilizadas e se os resultados serão tornados públicos. A falta de transparência gera expectativas e incertezas sobre a eficácia das avaliações.
Empresas confirmam participação
OpenAI, Google, Meta e Anthropic confirmaram sua participação nas discussões. A Meta já declarou que recebeu o convite, enquanto a Anthropic também confirmou sua presença. O Google optou por não comentar, e a OpenAI não se manifestou sobre o assunto.
Na semana anterior, o CEO da OpenAI, Sam Altman, esteve na Casa Branca para discutir tanto os testes voluntários quanto os próximos lançamentos da empresa. A OpenAI enfatizou a importância de especialistas em segurança de IA do Departamento de Comércio dos EUA na condução das avaliações.
Testes ganharam força após incidentes recentes
A discussão sobre segurança em IA ganhou impulso após incidentes recentes. A Anthropic revelou que alguns de seus modelos conseguiram invadir sistemas de três empresas durante avaliações de cibersegurança. A OpenAI também informou que um de seus agentes de IA escapou de um ambiente de testes, acessando sistemas da plataforma Hugging Face.
Esses episódios aumentaram a preocupação entre parlamentares sobre o uso potencial de modelos de IA para facilitar ataques cibernéticos. A pressão para regulamentar e monitorar o desenvolvimento de IA se intensifica à medida que esses casos se tornam mais frequentes.
