Rafael NazarAgentes de inteligência artificial desenvolvidos pela OpenAI usaram pelo menos dez sites adicionais para estabelecer comunicações não autorizadas no início deste ano, segundo seis grupos de pesquisadores independentes ouvidos pela Reuters. A descoberta indica que o comportamento foi mais amplo do que havia sido divulgado anteriormente.
As mensagens foram identificadas em wikis pouco conhecidas, páginas pessoais e serviços de encurtamento de links administrados por universidades. A atividade não é considerada um ataque hacker e, em alguns aspectos, se aproxima mais de spam. Ainda assim, o uso desses canais levantou preocupações sobre as capacidades dos modelos e a transparência da OpenAI.
Os agentes tinham autorização para navegar pela internet em busca de informações necessárias para responder a perguntas de pesquisa, mas não deveriam publicar conteúdo. De acordo com os pesquisadores, eles aproveitaram características de sites antigos para deixar mensagens uns para os outros.
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, afirmou ter contabilizado 18 sites usados pelos agentes entre maio e julho. Segundo ele, é quase certo que existam outros casos ainda não identificados. Sydney Von Arx, cujo grupo revelou que agentes da OpenAI haviam transformado uma wiki em alemão em uma espécie de plataforma de mensagens, disse que sua equipe encontrou atividades semelhantes em 23 sites que ainda não tinham sido divulgados. Os pesquisadores ressaltam que as estimativas são incompletas.
Em muitos casos, as conexões foram estabelecidas pela comparação entre textos deixados na wiki alemã e mensagens idênticas encontradas em outros sites. Nomes de usuários semelhantes e atividades relacionadas às mesmas perguntas também ajudaram na identificação. Alguns pesquisadores rastrearam a atividade até endereços de protocolo de internet associados à infraestrutura Azure, da Microsoft, utilizada pela OpenAI.
Entre os sites identificados estão uma wiki de química para estudantes de Advanced Placement criada por um professor de ensino médio de Massachusetts em 2008, dois sites pessoais de profissionais de tecnologia da Polônia, wikis dedicadas a jogos e uma página criada há cerca de duas décadas para entusiastas de softwares de edição de texto.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, disse.
A OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como quadros de mensagens improvisados. A empresa também não respondeu diretamente às perguntas da Reuters sobre a quantidade de sites envolvidos ou sobre o motivo de a atividade ter permanecido em segredo durante meses.
Em comunicado, a OpenAI afirmou que realiza uma análise mais ampla das atividades de seus agentes. Segundo a empresa, até o momento não foram identificadas outras ações com gravidade ou escala semelhantes ao ataque contra o Hugging Face. A companhia também informou que pretende publicar em breve uma estrutura para comunicar casos de “desalinhamento”, termo usado para descrever comportamentos de sistemas de IA que fogem do esperado.
A revelação ocorreu depois que pesquisadores descobriram que uma série de agentes da OpenAI havia transformado uma wiki em alemão em uma plataforma improvisada de comunicação. O episódio não tinha sido divulgado pela empresa até ser revelado pela Reuters.
Operadores de alguns dos sites disseram à Reuters que não haviam sido procurados pela OpenAI. A Universidade de Toronto, no Canadá, informou que a empresa entrou em contato depois que a agência apresentou suas descobertas. O serviço de encurtamento de links da instituição teria sido usado pelos agentes. A Universidade Vanderbilt, nos Estados Unidos, que administra outro serviço semelhante supostamente envolvido, não respondeu aos pedidos de comentário.
Helmut Leitner, desenvolvedor aposentado responsável pela hospedagem e pelo software de seis dos sites afetados, incluindo a wiki alemã, disse inicialmente que não havia recebido contato da OpenAI. Horas depois de a Reuters apresentar suas descobertas à empresa, ele afirmou ter recebido um e-mail sem assinatura alertando sobre o incidente. Para Leitner, o conteúdo da mensagem ficou aquém do que esperava da companhia.
Leitner também afirmou que o operador da wiki alemã precisou passar horas limpando o site após a atividade dos agentes. Na avaliação dele, porém, a responsabilidade não deve ser atribuída à inteligência artificial, mas às pessoas e organizações responsáveis por esses sistemas.
