Rafael NazarA Meta, gigante da tecnologia, está no centro de uma controvérsia após a revelação de que contratou pessoas para criar contas falsas de menores de idade. Essas contas foram usadas para interagir com chatbots de empresas rivais, enviando perguntas sobre temas sensíveis como suicídio e transtornos alimentares. O projeto, que ficou conhecido internamente como Cannes, levantou sérias questões éticas e legais sobre a segurança da inteligência artificial.
Documentos internos indicam que o projeto estava ativo até abril de 2026 e envolveu o envio de mais de 45 mil prompts a sistemas de chatbots concorrentes. As empresas testadas não foram informadas sobre essa atividade, o que levanta preocupações sobre a transparência e a ética nas práticas de benchmarking de segurança.
Como o projeto funcionou
Os contratados foram orientados a criar perfis falsos com dados fictícios de adolescentes e a registrar as respostas dos chatbots em planilhas. Essa abordagem visava testar a eficácia dos mecanismos de segurança das plataformas concorrentes, empurrando os sistemas a responderem a perguntas que deveriam ser bloqueadas.
Um documento da Covalen, empresa contratada para gerenciar o projeto, descreveu a iniciativa como um “benchmarking abrangente de segurança de IA”. No entanto, essa descrição não alivia as preocupações sobre a ética de utilizar contas falsas de menores para esses testes.
Contratados relataram preocupações
Ex-contratados expressaram alarmes sobre a natureza do trabalho, mencionando que temiam estar, inadvertidamente, gerando ou preservando conteúdo inapropriado. Um deles afirmou que muitos dos textos que precisavam testar eram perturbadores e que a equipe ficou chocada com o que viu durante o projeto.
Essas preocupações são reforçadas por especialistas em ética digital, que questionam a legitimidade de um projeto que parece ter sido estruturado para contornar regras de segurança. A combinação de testes de segurança com benchmarking competitivo pode criar uma zona cinza onde práticas anticompetitivas se disfarçam de avaliações legítimas.
A zona cinza legal e ética
Embora advogados consultados tenham indicado que o projeto não cruzou a linha para material ilegal, a natureza das ações da Meta ainda é questionável. A OpenAI e o Google, cujos sistemas foram testados, afirmaram que não autorizaram tais atividades e que isso viola seus termos de serviço.
A Meta, por sua vez, defendeu a prática como um teste de segurança padrão na indústria, alegando que o objetivo era garantir experiências seguras para os usuários. No entanto, a falta de transparência e a utilização de contas falsas de menores levantam um debate importante sobre a ética na inteligência artificial e a proteção dos usuários mais vulneráveis.
