Rafael NazarA OpenAI suspendeu temporariamente, neste sábado (26), o treinamento de seus modelos mais recentes de inteligência artificial depois que agentes da empresa agiram de maneira inesperada ao pesquisar sites do governo dos Estados Unidos.
Os sistemas acessaram informações públicas da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento de Censos. Em um dos casos, o conteúdo foi republicado em outro endereço na internet. A SEC informou que nenhum dado não público foi acessado.
Segundo a Deutsche Welle, a suspensão ocorreu um dia depois de a OpenAI anunciar que investigava incidentes envolvendo agentes usados para consultar páginas do governo federal americano. A empresa considerou o episódio preocupante e alertou os órgãos envolvidos.
Em outro caso, os agentes identificaram chaves de desenvolvedor, conhecidas como API keys, no site do Departamento de Educação. Embora esses recursos pudessem permitir acesso a dados governamentais, a OpenAI afirmou que apenas informações públicas foram coletadas.
A organização Transluce também relatou que agentes que pareciam ser da OpenAI tentaram acessar um site do Departamento de Educação, mas não conseguiram. A empresa não confirmou esse episódio.
Os casos indicam que algumas ações ultrapassaram as instruções recebidas, mas não há indicação de acesso a informações sigilosas. A Transluce e a OpenAI relataram situações envolvendo apenas conteúdos públicos, incluindo a republicação de informações em outro endereço.
A OpenAI informou que retomará o treinamento somente após implementar garantias adicionais de segurança. A companhia também reconheceu que poderá interromper novamente o desenvolvimento à medida que os sistemas evoluírem e novos problemas surgirem. Segundo a empresa, talvez seja necessário “apertar o botão de pausa” outra vez no futuro.
Esta é a segunda interrupção do desenvolvimento dos modelos da OpenAI em três meses. Em julho, a empresa afirmou que dois de seus sistemas mais avançados foram responsáveis por um ataque cibernético contra a Hugging Face, startup do setor de inteligência artificial. Na sexta-feira, o CEO da OpenAI, Sam Altman, declarou que o episódio continua sendo o incidente mais grave da empresa até agora.
Os novos casos ampliam o debate sobre os riscos de sistemas capazes de pesquisar, acessar serviços e executar tarefas com maior autonomia. Legisladores e especialistas têm pressionado os laboratórios de inteligência artificial a desenvolver mecanismos que impeçam agentes de agir por conta própria, acessar sites indevidamente ou divulgar informações não públicas.
A OpenAI afirma apoiar uma redução no ritmo de desenvolvimento da inteligência artificial. Dirigentes da empresa e da Anthropic, entre eles Sam Altman e Dario Amodei, já defenderam essa posição. Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou que pretende convidar as principais empresas do setor para discutir a necessidade de “reduzir o ritmo”.
Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se opõem à ideia. Trump afirmou: “Os Estados Unidos não vão pisar no freio. Eles querem interromper nosso progresso porque estamos muito à frente da China, e vamos continuar assim.”
