Rafael NazarA Anthropic informou ter bloqueado operações de vigilância apoiadas pelos governos da China, do Irã e do Mali que utilizavam o Claude para monitorar dissidentes e minorias. Identificadas entre janeiro e julho, as ações envolviam a identificação de pessoas por meio de redes sociais e o desenvolvimento de software para coleta de inteligência.
Segundo a empresa, as campanhas tinham como alvo comunidades historicamente perseguidas por esses governos, incluindo ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem no exterior.
Em um dos casos, pessoas no Irã usaram o Claude para desenvolver um método de identificação de indivíduos a partir de suas contas em redes sociais. No Mali, um contratado que trabalhava para autoridades de segurança nacional utilizou a ferramenta, segundo a Anthropic, “para projetar o software subjacente que permitiu a coleta de inteligência”.
A empresa afirmou que encerrou as operações após identificar o uso indevido de seus modelos. Entre os usos bloqueados estavam a identificação de pessoas por contas em redes sociais, o monitoramento de dissidentes e minorias no exterior, o desenvolvimento de software para coleta de inteligência e operações de vigilância apoiadas por governos.
A Anthropic também acusou desenvolvedores chineses de usar o Claude de maneira enganosa. Eles geravam respostas para consultas de usuários e, simultaneamente, “destilavam” os dados para aprimorar seus próprios modelos. A destilação consiste em usar um modelo de inteligência artificial para treinar outro. De acordo com a empresa, desenvolvedores chineses já haviam sido acusados anteriormente de empregar essa técnica sem autorização.
Outros bloqueios envolveram estudos relacionados ao vírus chikungunya, a uma cepa “altamente patogênica” de gripe aviária, à família de vírus que inclui a varíola e a mpox, além de venenos e outras toxinas.
A intenção dos envolvidos nas pesquisas biológicas não estava clara, e a Anthropic não revelou suas identidades. “As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, afirmou o relatório da empresa.
A Anthropic também bloqueou tentativas de desenvolver armas e de criar golpes românticos online. Os casos relatados reúnem diferentes formas de uso indevido dos modelos, desde operações de vigilância até pesquisas cuja finalidade não estava esclarecida.
