Rafael NazarRepresentantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos sobre o avanço dos vídeos e áudios falsos produzidos por inteligência artificial (IA). Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que a verificação da autenticidade de provas audiovisuais apresentadas em julgamentos tende a ficar cada vez mais difícil.
O alerta foi feito na quinta-feira (15), durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por IA nos tribunais e quais critérios devem ser adotados para confirmar a validade desse tipo de evidência.
Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por IA dificultam o desenvolvimento de métodos científicos capazes de identificar conteúdos artificiais. “As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, disse ao comitê.
Devin Norder, diretor de gerenciamento de produtos da Meta, também destacou a evolução da tecnologia. De acordo com ele, conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.
Norder acrescentou que o tempo e o custo necessários para criar esse tipo de conteúdo são baixos. A situação aumenta a preocupação com a possibilidade de materiais falsos serem apresentados como provas legítimas em processos judiciais.
Apesar dos alertas, ainda há poucos registros de disputas judiciais envolvendo deepfakes nos Estados Unidos. Em março, o Centro Judicial Federal, órgão de pesquisa do Judiciário americano, informou que 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeitar que fossem deepfakes.
Jesse Furman, juiz federal de Manhattan e presidente do comitê, afirmou que há uma quantidade significativa de análises acadêmicas e previsões sobre o impacto da tecnologia nos tribunais, mas que os casos concretos ainda são limitados. Na reunião de quinta-feira, ele nomeou um subcomitê para aprofundar a análise do problema.
Especialistas da indústria, da academia e do governo, porém, ressaltaram que o desafio não deve ser tratado como uma possibilidade distante. Para eles, a capacidade dos tribunais de impedir o uso de provas falsas tende a se tornar mais difícil.
Empresas como OpenAI e Meta desenvolvem ferramentas e serviços para ajudar a verificar a autenticidade de conteúdos visuais. Novas leis na Califórnia e na União Europeia também exigem o uso de marcas d’água digitais destinadas a facilitar a identificação de deepfakes.
Anderson alertou, no entanto, que não existe um padrão universal para detectar essas marcas ou confirmar a autenticidade de imagens e vídeos. Como cada empresa adota seus próprios sistemas, as ferramentas disponíveis não permitem uma verificação confiável de todos os conteúdos. A representante da OpenAI afirmou ainda que os mecanismos de identificação continuarão evoluindo, mas não serão totalmente infalíveis.
Valerie Caproni, juíza federal de Manhattan e integrante do comitê, demonstrou cautela em relação à criação imediata de regras específicas para provas geradas por IA. Segundo ela, ainda faltam dados que indiquem que os deepfakes se tornaram um problema disseminado nos tribunais.
Caproni observou que as normas e leis atuais já proíbem a apresentação de provas fraudulentas e permitem que os juízes avaliem se determinado material foi falsificado. A magistrada também ressaltou que a manipulação de evidências não é um problema novo no sistema judicial.
Assim, a discussão envolve determinar se as regras existentes são suficientes para lidar com as dificuldades adicionais trazidas pela inteligência artificial.
