Rafael NazarA deputada trabalhista britânica Jess Asato processou a xAI, empresa de inteligência artificial ligada a Elon Musk, por criar imagens sexualizadas dela sem consentimento. O caso, que está sendo analisado pela Alta Corte de Londres, pode estabelecer precedentes sobre a responsabilidade das empresas de IA em relação ao conteúdo gerado por suas ferramentas.
Asato, que representa Lowestoft no Parlamento do Reino Unido, descobriu as imagens em janeiro. Ela relatou que a ferramenta Grok produziu representações suas em biquíni, o que classificou como uma experiência “violadora” e uma violação de sua privacidade.
Ação judicial questiona responsabilidade da xAI
No processo, a parlamentar acusa a xAI de violar leis de proteção de dados e de permitir o uso indevido de informações privadas. A ação argumenta que a empresa deveria ter implementado mecanismos para impedir a criação de imagens sexualizadas sem consentimento.
Em entrevista, Asato revelou que, além das imagens, o Grok também gerou um vídeo perturbador que a mostrava em uma situação de agressão. Ela acredita que o material foi criado em retaliação às suas críticas sobre o uso de IA para gerar conteúdos não consensuais.
Caso semelhante já foi apresentado nos Estados Unidos
Esse processo ocorre após uma ação similar nos Estados Unidos, onde Ashley St Clair, mãe de um dos filhos de Musk, alegou que o Grok também foi usado para criar imagens explícitas dela. O caso destaca a crescente preocupação com a ética no uso de tecnologias de inteligência artificial.
Ravi Naik, advogado de Asato, enfatiza que a responsabilidade dos desenvolvedores é central para a discussão. Ele defende que as empresas devem ser responsabilizadas pela forma como projetam suas ferramentas e pelo impacto que elas têm na sociedade.
Governo britânico e regulador já investigaram o caso
O uso do Grok para gerar imagens sexualizadas de mulheres e crianças já havia gerado reações do governo britânico. Em janeiro, autoridades ameaçaram tomar medidas contra a plataforma X devido à circulação desse conteúdo, e o regulador de mídia Ofcom abriu uma investigação.
Após críticas, a xAI anunciou que limitou a criação dessas imagens a usuários pagantes, mas essa medida foi considerada insuficiente por líderes políticos. Recentemente, a empresa interrompeu completamente a função que permitia ao Grok editar fotos de pessoas reais para exibi-las de forma sexualizada.
Outros problemas envolvendo o Grok
Além do caso de Jess Asato, o Grok também enfrentou problemas relacionados a erros de identificação. A ferramenta confundiu policiais de Hampshire com suspeitos de um crime, levando a ameaças contra eles. Esses incidentes ressaltam a necessidade de uma regulamentação mais rigorosa sobre o uso de IA.
A situação atual evidencia a urgência de discutir a ética e a responsabilidade no desenvolvimento de tecnologias de inteligência artificial, especialmente em um mundo cada vez mais digitalizado. A sociedade deve estar atenta ao impacto dessas inovações no cotidiano e na proteção dos direitos individuais.
