Rafael NazarUm estudo recente revela que imagens de rostos geradas por inteligência artificial (IA) são consideradas mais confiáveis do que rostos humanos reais. Essa descoberta levanta preocupações sobre os riscos de fraudes online e a disseminação de desinformação, especialmente em um mundo cada vez mais digital.
Pesquisadores da Universidade de Lancaster, Stanford e da Universidade da Califórnia, Berkeley, liderados por Alexis McGuire, conduziram a pesquisa que é a primeira a analisar a confiabilidade de rostos criados com tecnologia de difusão. Os resultados mostram que, apesar de os humanos serem naturalmente habilidosos em reconhecer rostos, a sofisticação das imagens geradas por IA está tornando-as mais enganosas.
Risco de ser enganado por imagens de IA
McGuire destaca que a facilidade de criar rostos falsos com IA democratizou o acesso a essa tecnologia, permitindo que qualquer pessoa, mesmo sem conhecimento técnico, produza imagens que podem ser utilizadas para fins prejudiciais. Isso inclui desde fraudes de identidade até catfishing, onde pessoas criam perfis falsos em redes sociais.
Os experimentos realizados mostraram que, ao avaliar uma coleção de 96 rostos, os participantes tiveram uma taxa de acerto de apenas 58,4% ao identificar se as imagens eram reais ou geradas por IA. Essa taxa é apenas ligeiramente melhor do que o acaso, evidenciando a dificuldade em distinguir entre os dois tipos de rostos.
Resultados dos experimentos
- Os rostos gerados pelo modelo mais recente de difusão foram considerados menos realistas do que os de um modelo anterior, mas ainda assim foram avaliados como mais confiáveis.
- Os rostos reais receberam a menor nota de confiabilidade, enquanto os rostos gerados por IA foram considerados mais dignos de confiança, com notas médias de 4,36 e 4,70, respectivamente.
Esse fenômeno apresenta um paradoxo psicológico interessante, onde a percepção de realismo não se alinha com a confiança. McGuire alerta que essa situação pode contribuir para a erosão da confiança na sociedade, à medida que as imagens geradas por IA se tornam mais comuns e sofisticadas.
Com a crescente acessibilidade dessas tecnologias, é fundamental que a sociedade esteja ciente dos riscos associados e desenvolva estratégias para mitigar os danos potenciais. A pesquisa foi publicada no Journal of Vision e convida o público a participar de um estudo sobre a detecção de rostos reais e gerados por IA, promovendo uma maior conscientização sobre o tema.
