Rafael NazarO YouTube anunciou a ampliação de sua ferramenta de detecção de deepfakes, permitindo que todos os usuários maiores de 18 anos possam identificar vídeos manipulados que utilizem suas imagens. Essa iniciativa visa combater a desinformação e o uso indevido de imagens na plataforma, oferecendo mais segurança aos usuários.
A nova funcionalidade funciona através de uma digitalização facial, semelhante a uma selfie, que o usuário realiza. Com essa imagem, o sistema monitora o YouTube em busca de rostos que possam indicar o uso indevido da imagem da pessoa em vídeos gerados por inteligência artificial.
Como a ferramenta opera na prática
Quando o sistema encontra uma possível correspondência, o usuário recebe um aviso. A partir desse alerta, ele pode solicitar a remoção do vídeo suspeito. Até o momento, o número de solicitações de remoção é considerado pequeno, mas a expectativa é que esse número cresça com a nova liberação.
Inicialmente, a ferramenta foi testada com criadores de conteúdo, jornalistas e figuras públicas. Agora, com a abertura para o público geral, o YouTube busca aumentar a proteção contra deepfakes, que têm gerado preocupações em relação a golpes e fraudes.
A análise dos pedidos de remoção é feita com base em critérios rigorosos, como o nível de realismo do vídeo e a identificação clara de que o conteúdo foi criado por IA. É importante ressaltar que a ferramenta se concentra apenas na identificação facial, não abrangendo outros elementos, como imitações de voz.
Os usuários têm a opção de sair do programa a qualquer momento e solicitar a exclusão de seus dados faciais armazenados. Essa flexibilidade é um ponto positivo, garantindo que as pessoas tenham controle sobre suas informações pessoais.
Com a crescente preocupação sobre o uso de deepfakes em casos de assédio e fraudes, a expansão dessa ferramenta representa um avanço significativo na proteção dos usuários. O YouTube reafirma seu compromisso em oferecer um ambiente mais seguro e confiável para todos os seus usuários.
