Rafael NazarNesta sexta-feira, 17 de julho de 2026, o procurador municipal de São Francisco notificou a Apple e o Google para removerem 13 aplicativos de troca facial que geram imagens de nudez sem o consentimento das pessoas retratadas. Essa ação destaca a crescente preocupação com o uso irresponsável da inteligência artificial na criação de conteúdos sexualizados.
Os aplicativos em questão permitem que usuários alterem fotos de forma a criar deepfakes, afetando principalmente mulheres e meninas. A prefeitura argumenta que essas plataformas lucram com serviços que facilitam a produção de conteúdos prejudiciais, levantando questões éticas e legais sobre a privacidade e o consentimento.
Responsabilidade das empresas na era digital
As cartas enviadas foram assinadas pelo procurador David Chiu, que enfatizou a necessidade de Apple e Google agirem para impedir que seus ambientes digitais sejam utilizados para abusos. Ele ressaltou que a criação de imagens íntimas sem autorização é uma prática ilegal e prejudicial.
Além de exigir a remoção dos aplicativos, a prefeitura pediu que as empresas interrompessem relações comerciais com os desenvolvedores responsáveis. Essa pressão inclui também a responsabilidade sobre os sistemas de pagamento, que geram receitas para as plataformas.
A Apple já tomou medidas, removendo três dos aplicativos indicados e iniciando processos para encerrar contas de desenvolvedores envolvidos. A empresa afirmou que continuará a agir contra criadores que não corrigirem as violações identificadas.
Por sua vez, o Google declarou ter retirado centenas de aplicativos que promovem a “nudificação”, além de suspender ferramentas semelhantes e restringir buscas relacionadas. Essas ações refletem um esforço para manter suas plataformas seguras e livres de conteúdos abusivos.
Pesquisas indicam que o problema vai além dos aplicativos explicitamente voltados para nudez. Muitos programas de troca de rostos, apresentados como ferramentas de edição comuns, também permitem a criação de imagens sexualizadas sem proteção adequada.
A prefeitura de São Francisco continuará a monitorar e avaliar medidas legais contra empresas que permitirem a circulação dessas ferramentas. O objetivo é pressionar as plataformas a reforçarem seus mecanismos de análise antes da publicação de novos aplicativos, garantindo um ambiente digital mais seguro e respeitoso.
