Rafael NazarA OpenAI anunciou novas restrições para respostas do ChatGPT relacionadas a armas de fogo e violência. As mudanças incluem limites adicionais para adolescentes, alterações no tratamento de informações sobre ataques em massa e mecanismos para identificar conversas que possam indicar risco real de violência.
As medidas foram apresentadas pela empresa na sexta-feira (30), como parte de uma revisão dos procedimentos de segurança. Segundo a OpenAI, o objetivo é aprimorar a análise do contexto das conversas e ampliar a comunicação de situações consideradas ameaçadoras às autoridades.
As novas regras valem para todos os usuários, mas incluem proteções específicas para menores de 18 anos. A empresa também informou que realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026, em casos avaliados como ameaças potencialmente graves.
Para analisar situações complexas, a OpenAI afirma contar com especialistas em saúde mental e comportamento, além de considerar a atuação de familiares e órgãos públicos. A empresa também anunciou a criação de um Relatório de Segurança da Comunidade, que deverá reunir dados sobre a identificação de ameaças, os procedimentos adotados diante de comportamentos preocupantes e a eficácia das medidas de prevenção.
A primeira edição do relatório está prevista para o início de 2027 e deverá apresentar informações referentes ao segundo semestre de 2026.
Restrições também para adultos
As mudanças não se limitam às contas de adolescentes. O ChatGPT deverá oferecer respostas menos detalhadas sobre ataques em massa já ocorridos e sobre os responsáveis por esses episódios. A OpenAI afirma que a medida busca evitar que informações públicas sejam reunidas de forma a facilitar a reprodução de atos violentos ou ampliar a notoriedade dos autores.
O sistema deverá restringir reconstruções detalhadas dos acontecimentos, incluindo informações sobre armas e equipamentos utilizados, formas de obtenção e comparações sobre a dimensão dos danos. Segundo a empresa, esse tipo de conteúdo pode transformar os responsáveis pelos ataques em figuras de destaque e fornecer referências que favoreçam a imitação.
Os episódios continuarão podendo ser discutidos na plataforma. Usuários ainda poderão pedir explicações sobre o que aconteceu, os impactos para vítimas e comunidades e os sinais que ajudam a reconhecer situações de risco. A restrição será direcionada principalmente a detalhes operacionais que possam contribuir para o planejamento ou a execução de novos ataques.
Conversas poderão ser interrompidas
A OpenAI também pretende aprimorar a análise do contexto das interações. Uma pergunta aparentemente comum poderá receber outro tratamento quando vier depois de mensagens que indiquem intenção violenta. O sistema deverá considerar conversas recentes para decidir quando limitar informações que poderiam ser usadas de maneira prejudicial.
Se identificar sinais de que uma pessoa está obcecada por violência ou pela ideia de ferir gravemente alguém, o ChatGPT poderá encerrar automaticamente a conversa. Caso ocorram vários encerramentos pelo mesmo motivo, a conta poderá ser temporariamente suspensa, conforme as regras anunciadas pela empresa.
Adolescentes terão limites adicionais
Para usuários menores de 18 anos, as restrições serão mais abrangentes. Mesmo quando uma pergunta sobre armas parecer inofensiva e não apresentar sinais evidentes de intenção violenta, o ChatGPT deverá limitar determinadas informações práticas que possam ser utilizadas indevidamente.
As regras anteriores já proibiam orientações para planejar ou executar atos violentos e restringiam a ajuda a adolescentes na procura ou obtenção de armas. Agora, também deverão ser limitadas informações práticas sobre armamentos e sistemas de segurança que possam facilitar a violência, ainda que não haja uma intenção explícita de causar danos.
Os adolescentes continuarão podendo usar o ChatGPT para buscar informações sobre prevenção da violência, pedir apoio e encontrar maneiras de se conectar com um adulto de confiança. De acordo com a OpenAI, a diferença está entre conteúdos que ajudam a compreender ou evitar situações perigosas e orientações práticas que possam facilitar ações violentas.
Para aplicar as proteções, a empresa utiliza um sistema de previsão de idade que considera diferentes sinais, incluindo padrões de comportamento durante o uso da plataforma. A OpenAI afirma ter aprimorado a ferramenta para avaliar continuamente novos sinais e direcionar usuários que possam ter menos de 18 anos à experiência com proteções específicas.
Se um adulto for classificado incorretamente como adolescente, poderá confirmar que tem mais de 18 anos por meio da Persona, empresa parceira responsável pela verificação de idade. Após a confirmação, será possível retirar as proteções adicionais destinadas a menores.
Controles parentais serão ampliados
As mudanças também envolvem os controles parentais, que permitem vincular a conta de um responsável à de um adolescente e administrar determinadas configurações de segurança.
Nas contas conectadas, a OpenAI já prevê alertas quando revisores treinados identificam preocupações graves relacionadas à automutilação ou a comportamentos que podem estar associados a transtornos alimentares. Em julho de 2026, a empresa ampliou esses avisos para incluir situações em que a conta de um adolescente é desativada por violar as políticas sobre violência.
Agora, a OpenAI pretende notificar os responsáveis quando uma conta for temporariamente suspensa após conversas repetidas sobre esse tema.
As novas proteções começarão a ser implementadas nas próximas semanas, segundo a empresa. A OpenAI afirma que continuará ajustando os sistemas para reconhecer sinais de alerta e decidir quando limitar respostas ou interromper conversas.
O comunicado ressalta que a violência tem causas complexas e que as ferramentas digitais devem atuar em conjunto com familiares, profissionais e autoridades.
