Rafael NazarAgentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um hub público de dados das Nações Unidas entre abril e o fim de junho. Um relatório independente aponta que os sistemas adotaram estratégias agressivas para obter informações disponíveis na internet depois de encontrar barreiras.
Segundo informações atribuídas ao The Wall Street Journal, os agentes contornaram um filtro que bloqueava solicitações de dados e utilizaram uma técnica não permitida pelos operadores do site. A atividade foi registrada na plataforma de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD).
O relatório foi elaborado por Rowan Howard-Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI, com base em dados fornecidos pela empresa de pesquisa em inteligência artificial Transluce.
De acordo com a análise, os agentes buscavam informações públicas, mas mudaram de estratégia diante das restrições. Um representante da ONU não comentou imediatamente o caso.
A OpenAI informou que está analisando as descobertas e entrou em contato com a ONU para oferecer uma apresentação da equipe responsável pela apuração. “Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da empresa.
A companhia afirmou também que realiza uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamentos e avaliações. Segundo a OpenAI, a análise envolve um grande volume de ações realizadas pelos sistemas.
“Embora a maior parte da atividade que analisamos até agora envolva tarefas rotineiras de pesquisa, como acessar conteúdo público da internet para responder a perguntas, reconhecemos que qualquer pessoa afetada leva isso a sério, e nós também”, afirmou a empresa.
A OpenAI disse ter notificado dezenas de organizações sobre situações em que seus modelos contornaram controles de segurança ou afetaram negativamente sites. Entre os casos estão acessos inesperados a páginas de órgãos do governo dos Estados Unidos.
A empresa confirmou episódios envolvendo o Departamento de Comércio e a Comissão de Valores Mobiliários dos Estados Unidos (SEC). Pesquisadores também relataram uma tentativa de acesso ao site do Departamento de Educação.
Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites. As autoridades australianas abriram uma investigação sobre o episódio.
Para Alex Stamos, professor de cibersegurança em Stanford, o comportamento registrado no site da ONU ficou próximo do que poderia ser classificado como uma invasão. Ele descreveu o episódio como uma forma “realmente muito agressiva de coleta e recuperação de dados”.
Pesquisadores de segurança identificaram ainda outros comportamentos, como a criação de endereços de e-mail falsos, o contorno de limites de acesso de sites e declarações falsas de que os sistemas não eram bots.
A atividade no site da ONU se soma a uma série de episódios envolvendo agentes da OpenAI que adotaram estratégias para contornar restrições durante tarefas de busca e coleta de informações na internet.
