Uberlandia, MG Ter, 17 de novembro
20° Máx. 27° · Mín. 20° Parcialmente nublado
Previsão para Uberlândia Hoje: parcialmente nublado
Amanhã, 18/11 28° 20° 86% chuva
qui, 19/11 28° 20° 87% chuva
sex, 20/11 28° 20° 78% chuva
sáb, 21/11 29° 20° 94% chuva
dom, 22/11 29° 21° 85% chuva
seg, 23/11 29° 21° 89% chuva
ter, 24/11 28° 21° 93% chuva
Dados meteorológicos fornecidos por Open-Meteo.
OpenAI anuncia suspensão de contas após tentativas de sexualizar crianças no ChatGPT
Foto original adaptada visualmente por IA.
Inteligência Artificial

OpenAI anuncia suspensão de contas após tentativas de sexualizar crianças no ChatGPT

Compartilhar Facebook X WhatsApp Telegram

A OpenAI anunciou novas medidas para impedir o uso de suas ferramentas na produção e na disseminação de material de abuso sexual infantil. Entre as ações está a suspensão do acesso ao ChatGPT por 24 horas para usuários que fizerem solicitações com o objetivo de sexualizar crianças.

De acordo com a empresa, os usuários receberão um alerta sobre os danos provocados por esse tipo de comportamento, inclusive quando o conteúdo solicitado for gerado por inteligência artificial. A conversa identificada será removida e, durante o período de suspensão, estarão disponíveis canais de suporte especializado para pessoas que precisem de ajuda para interromper comportamentos prejudiciais.

Infrações repetidas poderão resultar em suspensões mais longas, encerramento permanente da conta e, dependendo do caso, comunicação às autoridades. A OpenAI afirma que já proíbe materiais de abuso sexual infantil e treina seus modelos para recusar pedidos relacionados a esse tipo de conteúdo. As novas medidas complementam os mecanismos de segurança existentes.

A empresa também apresentou um classificador de imagens desenvolvido para identificar possíveis materiais de abuso sexual infantil, incluindo conteúdos produzidos por inteligência artificial. A ferramenta analisa características visuais e atribui pontuações para ajudar equipes especializadas a priorizar imagens que precisam de avaliação humana.

Segundo a OpenAI, o sistema é o primeiro classificador amplamente disponível a apresentar um indicador específico para possíveis materiais de abuso gerados por IA. Nos testes iniciais com imagens enviadas por usuários, a tecnologia reduziu em 48% o volume de imagens encaminhadas para revisão, mantendo aproximadamente a mesma capacidade de identificar materiais abusivos em comparação com as proteções anteriores.

As imagens sinalizadas pelo novo classificador apresentaram, ainda, cerca do dobro de probabilidade de conter material de abuso. A tecnologia foi desenvolvida e avaliada com a colaboração do National Center for Missing and Exploited Children (NCMEC), organização sem fins lucrativos dos Estados Unidos que mantém uma central de recebimento de denúncias sobre exploração infantil.

A OpenAI informou que disponibilizará o classificador gratuitamente, por meio de sua API, para organizações verificadas que atuam na proteção de crianças.

As medidas também incluem orientações práticas para desenvolvedores sobre prevenção, identificação e denúncia de materiais de abuso sexual infantil. O material recebeu contribuições de organizações como Tech Coalition, Thorn, NCMEC e Internet Watch Foundation, e reúne recomendações sobre canais de denúncia, ferramentas de detecção e procedimentos para análise e comunicação de possíveis casos de exploração.

Outra frente anunciada é o apoio a equipes policiais especializadas em crimes contra crianças. A OpenAI está oferecendo ferramentas e treinamentos de inteligência artificial para auxiliar investigadores na organização de informações e na análise de grandes volumes de dados.

A primeira ferramenta voltada a esse público poderá analisar registros extensos de conversas e documentos obtidos em investigações, identificar possíveis conexões e organizar linhas do tempo. Conforme a empresa, os resultados permanecerão vinculados às fontes originais para facilitar a verificação pelos investigadores.

O anúncio ocorre em meio a questionamentos sobre os riscos das tecnologias de inteligência artificial para crianças e adolescentes. A OpenAI afirma que a proteção infantil depende da colaboração entre empresas, organizações especializadas, desenvolvedores e autoridades policiais.

A companhia também declarou que continuará aprimorando seus mecanismos de segurança e ampliando o acesso a ferramentas de prevenção e identificação de abusos. As informações foram divulgadas originalmente pelo Olhar Digital.

0 votos: 0 positivos, 0 negativos (0 pontos)

Deixe uma resposta
Miramontes 350×750
Notíciasletter
Receba nossas noticias
Um resumo direto no seu e-mail.
Sign In/Sign Up Pesquisar
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...