Rafael NazarA inteligência artificial de grandes empresas de tecnologia pode estar influenciada por censura ao rejeitar solicitações de conteúdo crítico, especialmente quando se trata de governos que restringem a liberdade de expressão. Essa é a principal conclusão de um estudo divulgado pelo Conselho de Supervisão da Meta, que analisou como diferentes modelos de IA respondem a pedidos de conteúdo em contextos variados.
A pesquisa avaliou dez modelos de linguagem de empresas como Meta, OpenAI e Google, com o objetivo de entender se as respostas variam conforme a permissividade dos países em relação à liberdade de expressão. Os resultados revelaram que as ferramentas de IA tendem a ser mais restritivas em países onde há leis que punem críticas ao governo.
Estudo identifica diferenças entre respostas dos modelos de IA
Os pesquisadores dividiram os países em dois grupos com base nas avaliações da organização Freedom House. Um grupo incluía nações mais permissivas, enquanto o outro abarcava aquelas com legislações restritivas. Os dados mostraram que 34% das solicitações de conteúdo crítico foram rejeitadas em países com leis severas, em comparação com apenas 14% em locais onde essas restrições não são aplicadas.
Além disso, a análise revelou que alguns modelos justificaram suas decisões com base em regras que, segundo o Conselho de Supervisão, não eram claras ou não eram aplicadas de maneira consistente. Isso levanta questões sobre a transparência e a responsabilidade das empresas de tecnologia em relação ao conteúdo que suas IAs geram.
O estudo também sugere que as empresas devem realizar análises sistemáticas sobre os impactos de suas tecnologias nos direitos humanos. A recomendação é que haja maior clareza sobre os processos de treinamento e avaliação dos modelos de IA, para que os usuários possam entender melhor como suas interações são moldadas.
A divulgação deste estudo ocorre em um momento em que a discussão sobre a regulamentação da inteligência artificial ganha força. Recentemente, Demis Hassabis, CEO do Google DeepMind, defendeu a criação de um órgão regulador nos Estados Unidos para avaliar modelos avançados de IA antes de sua implementação, destacando a necessidade de supervisão em um campo em rápida evolução.
