Rafael NazarAgentes de inteligência artificial (IA) da OpenAI publicaram 53 imagens fornecidas por usuários do ChatGPT em serviços públicos de hospedagem de imagens sem que a empresa tivesse conhecimento da atividade. O caso foi confirmado pela OpenAI nesta sexta-feira (25) e integra uma série de episódios envolvendo agentes que escaparam do controle durante testes e avaliações.
A empresa não informou quando as imagens foram publicadas nem esclareceu se os arquivos eram imagens geradas por IA ou se retratavam pessoas reais. Segundo a OpenAI, o material foi disponibilizado por meio de links não listados publicamente. Embora não fossem exibidas em listagens públicas, as imagens ainda poderiam ser encontradas na internet.
A OpenAI afirmou que trabalha com os serviços de hospedagem para remover o conteúdo. A maior parte das imagens já foi retirada, mas algumas continuavam disponíveis.
A empresa disse que não consegue avisar os usuários que forneceram os arquivos. De acordo com a OpenAI, sua abordagem técnica e sua política de privacidade impedem que as imagens sejam novamente associadas às pessoas que as enviaram. A companhia também não explicou como identificou que os arquivos haviam sido fornecidos por usuários.
O episódio ocorreu porque os agentes tinham acesso a imagens presentes nos dados utilizados pela empresa para treinar modelos. Segundo a OpenAI, parte dos dados de usuários é anonimizada antes desse uso. O processo remove metadados, nomes e outras informações de contato.
Pessoas familiarizadas com as práticas da empresa, no entanto, afirmaram que existe o risco de essas informações não serem completamente eliminadas e de os dados serem expostos durante a atividade dos modelos.
Usuários corporativos da OpenAI não têm seus dados utilizados para treinamento. Já os consumidores do ChatGPT podem autorizar esse uso e também têm a opção de desativá-lo. Mesmo nessa situação, interações avaliadas pelos botões de “curtir” ou “não curtir” ainda podem ser usadas para treinamento, segundo o TechCrunch.
Investigação sobre agentes
O vazamento foi identificado durante uma revisão mais ampla conduzida pela OpenAI para apurar comportamentos não autorizados de seus agentes. A empresa afirmou que a investigação deve durar meses devido à dimensão do trabalho e informou que dezenas de terceiros já foram avisados sobre atividades inadequadas.
Em meados de setembro, uma pessoa informada sobre a investigação estimava que a OpenAI havia encontrado cerca de 24 incidentes envolvendo agentes que agiram de maneira indesejada. O número continuou crescendo conforme as equipes analisavam registros internos e identificavam episódios antes desconhecidos.
Segundo a OpenAI, mais de 15 incidentes relacionados aos agentes haviam sido divulgados nos dois meses anteriores, com diferentes níveis de gravidade. A sequência ganhou atenção após um episódio envolvendo a plataforma de IA Hugging Face, revelado em julho. Na ocasião, agentes da OpenAI escaparam do ambiente de testes e acessaram sistemas externos.
Em 16 de setembro, a OpenAI publicou uma estrutura para divulgar incidentes desse tipo e afirmou que adotaria uma postura de transparência mesmo quando a relevância de determinado episódio ainda não estivesse clara.
Outros episódios
O caso das imagens se soma a outros episódios em que agentes da OpenAI realizaram atividades não previstas pela empresa. Além do incidente com a Hugging Face, foram identificadas situações nas quais agentes acessaram serviços externos e realizaram ações sem o conhecimento prévio da companhia.
Entre os casos estão a publicação de conteúdo em um site alemão e a divulgação de pacotes maliciosos no RubyGems. Nesta semana, o primeiro-ministro australiano, Anthony Albanese, também revelou que agentes da OpenAI haviam invadido um portal ligado ao sistema público de saúde da Austrália. O episódio ocorreu em junho e foi descoberto posteriormente durante a revisão conduzida pela empresa.
A OpenAI informou que já notificou dezenas de terceiros sobre atividades de seus agentes. Muitos dos incidentes foram descobertos por pesquisadores externos e, em alguns casos, as ações permaneceram desconhecidas pela empresa durante meses.
O vazamento das imagens amplia as preocupações relacionadas aos agentes de IA. Além dos riscos de segurança digital e de acesso não autorizado a sistemas externos, o episódio levanta questões sobre privacidade e exposição de dados de usuários.
