Rafael NazarO X, plataforma de Elon Musk, continua apresentando material de abuso sexual infantil, segundo análises do Canadian Center for Child Protection e do The New York Times. As verificações identificaram imagens já conhecidas pelas autoridades e conteúdo sexualizado gerado pelo Grok, chatbot da rede social.
As análises foram feitas por amostragem, porque o X restringe o acesso a dados abrangentes da plataforma. Os resultados indicam problemas na remoção de material ilegal.
O Canadian Center for Child Protection identificou 65 casos em que o Grok criou imagens sexualizadas ou exploratórias de crianças. Entre os casos estavam vítimas de abuso sexual infantil já conhecidas pelas autoridades. Os pesquisadores também encontraram pedidos para que o chatbot modificasse fotos de vítimas conhecidas, representando-as com roupas íntimas ou biquínis.
Os casos ocorreram antes de o X interromper a capacidade do Grok de produzir esse tipo de imagem, após uma reação pública. Em dezembro e janeiro, a conta do Grok no X havia produzido milhões de imagens de pessoas sem roupas em resposta a pedidos de usuários.
Imran Ahmed, CEO do Center for Countering Digital Hate, classificou as descobertas como “uma das maiores falhas corporativas da minha vida”.
Em uma análise realizada entre janeiro e junho, o The New York Times usou um programa de computador para procurar termos relacionados a material de abuso sem exibir as imagens. Os links foram encaminhados a um serviço da Microsoft para verificar se correspondiam a arquivos já identificados por organizações de proteção infantil.
A busca encontrou mais de 75 imagens. Todas foram removidas após denúncias, mas algumas haviam sido visualizadas centenas de vezes. Cerca de um terço dos arquivos identificados pelo jornal fazia parte de uma lista utilizada por empresas de tecnologia para detectar e remover material de abuso previamente identificado.
As análises apontaram 65 casos de imagens sexualizadas ou exploratórias de crianças geradas pelo Grok, mais de 75 imagens encontradas pelo The New York Times, a permanência de arquivos já conhecidos pelas autoridades e registros que receberam centenas de visualizações antes da remoção.
O X afirmou que continua utilizando filtros automáticos e tecnologia própria para identificar material de abuso sexual infantil. “Levamos a sério nossa responsabilidade de proteger menores de idade”, declarou a empresa. “O X tem tolerância zero com material de abuso sexual infantil, incluindo material de abuso sexual infantil gerado por IA.”
A companhia também informou que bloqueia usuários que publicam ou interagem com esse conteúdo e os denuncia às autoridades. Segundo o X, 780 mil usuários foram denunciados no último mês, enquanto 1,3 milhão de imagens foram encaminhadas ao National Center for Missing and Exploited Children neste ano.
Musk comprou o então Twitter em 2022 e classificou a remoção desse material como “Prioridade nº 1”. Em janeiro, afirmou que usuários que utilizassem o Grok para criar imagens de abuso sexual infantil enfrentariam as mesmas consequências aplicadas a quem compartilhasse material não gerado por inteligência artificial, incluindo possível banimento.
As análises colocam em questão a eficácia das medidas adotadas pelo X. Mesmo arquivos já identificados pelas autoridades voltaram a aparecer na plataforma, enquanto o Grok foi usado para gerar novas imagens envolvendo crianças.
