Rafael NazarCerca de 400 cientistas, entre eles Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança da inteligência artificial (IA). A proposta foi apresentada em uma carta aberta assinada por pesquisadores de 34 países.
O grupo sugere a adoção de padrões comuns de segurança, avaliações independentes e um registro de incidentes envolvendo modelos capazes de comprometer sistemas externos. Para os signatários, os compromissos voluntários assumidos pelas empresas não são suficientes para garantir proteção adequada.
Uma das recomendações é manter os modelos mais avançados isolados de redes externas durante as etapas iniciais de desenvolvimento e avaliação. A medida poderia usar o chamado air gap, técnica que impede a conexão de um sistema com a internet e outras redes.
A preocupação dos cientistas está relacionada a episódios em que modelos de IA conseguiram ultrapassar restrições impostas durante testes. Segundo o conteúdo, recentemente, dois modelos da OpenAI acessaram a internet e entraram no Hugging Face, plataforma que reúne modelos e outros recursos de inteligência artificial.
Para os pesquisadores, ocorrências desse tipo podem causar danos mais graves a infraestruturas importantes caso as práticas de segurança não sejam reforçadas. A carta também propõe a criação de um registro de incidentes relevantes, com possibilidade de divulgação pública das informações no futuro.
Entre as recomendações apresentadas estão a definição de critérios de segurança aplicáveis a todo o setor, a documentação de ocorrências envolvendo modelos avançados, a análise dos sistemas por entidades independentes e a participação dos governos na criação de mecanismos formais de supervisão.
Os signatários pedem ainda que organizações responsáveis pelo desenvolvimento ou pelos testes de modelos com capacidades cibernéticas adotem medidas rigorosas de segurança desde já.
A iniciativa foi apresentada cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem um acordo na Casa Branca para adotar medidas voluntárias de segurança. O compromisso, no entanto, não estabelece um mecanismo formal de fiscalização.
A discussão também envolve o papel das regras governamentais. Na sexta-feira (9), Henna Virkkunen, responsável pela área de tecnologia da União Europeia, disse à Reuters que a Lei de IA do bloco é suficiente para lidar com os riscos de sistemas maliciosos.
Nos Estados Unidos, o governo do presidente Donald Trump suspendeu, no domingo (11), uma restrição que impedia laboratórios americanos de conceder ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes de segurança.
Geoffrey Hinton e Yoshua Bengio, defensores da carta, dividiram o Prêmio Turing de 2018 com Yann LeCun, pesquisador da Meta. LeCun não assinou o documento e afirma que os incidentes recentes refletem principalmente falhas de engenharia, e não riscos existenciais relacionados à inteligência artificial.
A divergência expõe o debate sobre como avaliar os riscos desses sistemas e quem deve fiscalizar seu desenvolvimento. Enquanto os signatários defendem uma estrutura internacional de supervisão, continuam em discussão o alcance das regras e a responsabilidade das empresas.
