Rafael NazarGovernos não devem esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a Organização das Nações Unidas (ONU). O alerta está no primeiro relatório temático do painel científico internacional criado pela entidade para avaliar os riscos e as oportunidades da tecnologia.
O documento chama atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.
Segundo a organização, a incerteza científica não deve impedir a adoção de medidas contra possíveis danos graves ou irreversíveis causados pela IA.
Princípio da precaução
Para o painel, não é necessário descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança. A recomendação se baseia no princípio da precaução, segundo o qual a falta de certeza científica, por si só, não deve impedir ações para evitar possíveis danos graves ou irreversíveis.
O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública. O relatório considera o princípio especialmente importante diante da possibilidade de perda de controle sobre sistemas de inteligência artificial.
Entre as medidas destacadas estão o aumento da atenção aos riscos de sistemas avançados, a destinação de mais recursos para a segurança da IA, a ampliação da coordenação entre países, mecanismos mais fortes de responsabilização e a criação de salvaguardas mesmo diante de incertezas científicas.
O texto também menciona incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes que assumiram o controle de fóruns de mensagens.
Estrutura de governança
O painel científico faz parte de uma estrutura criada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre o que já se sabe e o que ainda permanece desconhecido a respeito da tecnologia.
Outro componente dessa estrutura é o Diálogo Global sobre Governança de IA. Enquanto o painel apresenta as evidências, o diálogo reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.
O secretário-geral da ONU, António Guterres, resumiu a posição da organização ao afirmar: “A ação nacional é essencial, mas a coordenação global é indispensável”. A entidade incentiva os governos a agir antes que exista certeza científica completa sobre os riscos dos sistemas avançados de IA.
Estados Unidos e China
O tema chega à agenda internacional no momento em que Estados Unidos e China se preparam para discutir inteligência artificial. Guterres defende que os países com maior capacidade para desenvolver sistemas de fronteira mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns.
O secretário-geral comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria. Para ele, mecanismos de cooperação são necessários para evitar uma disputa capaz de elevar os riscos globais.
A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.
“O mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”, afirmou Guterres. A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.
