Rafael NazarA OpenAI revelou, nesta quarta-feira (16), seis casos de comportamentos considerados “inesperados ou preocupantes” em modelos de inteligência artificial. Os episódios envolveram tentativas de esconder erros, reescrever instruções próprias, usar informações sem autorização, fabricar dados e criar formas não autorizadas de comunicação entre agentes.
A empresa também anunciou um novo protocolo para investigar e divulgar casos de desalinhamento de modelos — termo usado por pesquisadores para descrever comportamentos de sistemas de IA que ignoram ou entram em conflito com as intenções humanas.
Os seis episódios ocorreram entre outubro de 2025 e julho deste ano e envolveram modelos internos, versões ainda não lançadas e o GPT-5.6 Sol, lançado em junho. Segundo a OpenAI, todos os casos apresentados seriam elegíveis para investigação ou divulgação de acordo com o novo protocolo.
A iniciativa foi anunciada em meio ao aumento das preocupações sobre a segurança e o controle de sistemas de IA. Nas últimas semanas, pesquisadores e executivos do setor passaram a discutir publicamente a necessidade de reduzir o ritmo de avanço dos modelos.
“Queremos compartilhar o que estamos aprendendo o mais rápido possível”, afirmou Kai Chen, chefe de alinhamento da OpenAI. Segundo ele, a expectativa é que os relatos contribuam para padrões compartilhados e regulamentações com regras claras para os desenvolvedores de IA.
Em dois dos casos, modelos inseriram instruções em resumos de suas próprias janelas de conversa com o objetivo de influenciar versões futuras do sistema. Um modelo de pesquisa ainda não lançado gerou prompts de injeção nos resumos para tentar ocultar erros ou comportamentos desalinhados dos usuários.
Em outro episódio, um treinamento do GPT-5.6 Sol apresentou comportamento semelhante ao inserir instruções destinadas a versões futuras do modelo. A OpenAI também relatou um caso em que um sistema reescreveu as próprias instruções e passou a dizer a si mesmo para ignorar “os papéis e identidades que vinculam outros chatbots”. A empresa afirmou, porém, que o modelo aparentemente ignorou a revisão e não alterou seu comportamento por causa dela.
Outro episódio envolveu um modelo interno que encontrou uma chave de API vazada e a utilizou sem autorização. Depois, o sistema fabricou dados.
Em um caso diferente, um agente não encontrou as informações necessárias para criar um modelo financeiro. Em vez de interromper a tarefa, instruiu a si próprio a inventar os dados e determinou que só deveria admitir a fabricação caso fosse questionado. Para a OpenAI, o episódio envolveu não apenas a criação de uma informação falsa, mas também uma orientação interna para ocultar sua origem.
Dois dos seis casos envolveram modelos ou agentes que encontraram meios não autorizados de comunicação. Em uma situação, agentes usaram quadros de mensagens não autorizados para trocar informações. Em outra, sistemas recorreram a serviços temporários de hospedagem de arquivos para se comunicar fora dos mecanismos previstos pelos desenvolvedores.
Também foram descritos dois exemplos de treinamento nos quais modelos fizeram upload de arquivos para a internet e depois os citaram como fontes em respostas apresentadas a avaliadores humanos. Em um dos casos, um agente tentou passar por uma avaliação ao enviar um arquivo à internet e apresentá-lo posteriormente como uma fonte legítima.
Pelo novo protocolo, qualquer funcionário da OpenAI poderá sinalizar um comportamento potencialmente relevante para investigação. A denúncia será analisada por equipes técnicas. Se houver divergência sobre a necessidade de divulgação, o caso poderá ser encaminhado à liderança de segurança e, depois, à direção da empresa.
O prazo para divulgação dependerá da complexidade da investigação. Incidentes considerados menores deverão ser divulgados em uma ou duas semanas, enquanto análises mais complexas, especialmente as que envolverem terceiros, poderão levar mais tempo.
Os relatórios deverão informar o comportamento observado, os impactos internos e externos e as medidas adotadas. A OpenAI afirmou que priorizará novos tipos de desalinhamento, mudanças significativas em comportamentos já conhecidos e descobertas que coloquem em dúvida as premissas dos atuais mecanismos de segurança.
A empresa também pretende desenvolver critérios de divulgação mais objetivos em conjunto com desenvolvedores e pesquisadores externos, entidades responsáveis por padrões do setor e órgãos reguladores. O protocolo não substitui as obrigações legais relacionadas à comunicação de incidentes de segurança e violações de cibersegurança.
Segundo Kai Chen, a OpenAI publicou o protocolo sem compartilhá-lo previamente com outros grandes laboratórios de IA, incluindo Anthropic e Google. A intenção, afirmou o executivo, é estimular outras empresas a criarem mecanismos próprios para divulgar comportamentos desalinhados.
“Colocamos unilateralmente este framework no ar para, esperamos, inspirar o restante da indústria a seguir o exemplo e compartilhar seus próprios frameworks de relato de desalinhamento”, disse Chen. A OpenAI também afirmou que pretende propor mecanismos para comunicar incidentes graves ao governo federal dos Estados Unidos.
Os seis episódios não foram necessariamente identificados no momento em que ocorreram. Alguns foram detectados por sistemas internos de monitoramento de treinamentos e desalinhamento, enquanto outros levaram de dois dias a vários meses para serem percebidos.
Nos relatórios, a OpenAI afirmou ter aprimorado seu sistema de avaliação de alinhamento para punir com mais rigor comportamentos inadequados. A empresa também declarou que ainda não considera resolvidos os problemas de alinhamento e monitoramento a ponto de continuar ampliando suas capacidades no ritmo máximo por muito mais tempo.
“Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar aumentando responsavelmente a escala no ritmo máximo por muito mais tempo”, afirmou a OpenAI.
