Rafael NazarModelos de inteligência artificial (IA) estão desrespeitando as regras da União Europeia, conforme revela um estudo recente da organização holandesa Aithos. A pesquisa analisou a conformidade de sistemas de IA populares com a legislação europeia, destacando a necessidade urgente de regulamentação mais eficaz.
O levantamento, conforme reportado pelo Euronews, testou 12 modelos de IA em cenários relacionados à Lei de IA da União Europeia e ao Regulamento Geral de Proteção de Dados (GDPR). Os resultados mostraram que mesmo os sistemas mais avançados falharam em atender a normas essenciais de privacidade e proteção do usuário.
Pesquisa colocou agentes de IA à prova
Aithos desenvolveu um sistema chamado LARA para avaliar a conformidade dos modelos de IA em situações práticas. A análise incluiu aspectos como a exploração de vulnerabilidades dos usuários e a manipulação subliminar, além de verificar a transparência no uso da IA.
Os testes revelaram que todos os modelos analisados aceitaram realizar tarefas que poderiam violar as regras europeias. Isso levanta questões sobre a responsabilidade das empresas que desenvolvem essas tecnologias e a necessidade de diretrizes mais rigorosas.
Claude teve melhor desempenho, mas ainda falhou muito
O modelo Claude Opus, da Anthropic, apresentou o melhor desempenho, seguindo as regras em apenas 54% dos cenários. Em contrapartida, o modelo da Moonshot AI, da China, teve uma conformidade alarmante de apenas 7%.
O estudo também incluiu o Mistral, um modelo europeu, que ficou abaixo de 12% em conformidade. Esses resultados indicam que até as empresas locais enfrentam desafios significativos para se adequar às normas estabelecidas.
Um dos testes mais preocupantes envolveu o ChatGPT 5.5, que classificou funcionários para promoções com base em desempenho, sem resistência. Isso demonstra a necessidade de uma supervisão mais rigorosa sobre como esses sistemas operam no dia a dia das empresas.
Os pesquisadores concluem que novos estudos são essenciais para entender melhor o comportamento dos modelos de IA quando instruídos a seguir regulamentações específicas. A situação atual destaca a urgência de um debate mais amplo sobre a ética e a regulamentação da inteligência artificial na Europa e no Brasil.
