Google, OpenAI e Anthropic estão avançando na criação de uma organização independente voltada ao desenvolvimento de padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa ocorre em meio ao aumento das discussões sobre a regulamentação de tecnologias cada vez mais avançadas.
Segundo o The Information, o grupo está em formação e as empresas usam provisoriamente o nome Standards Authority for Frontier AI (SAFA). A proposta é que a entidade funcione de forma independente e ajude a preencher lacunas na supervisão governamental da IA.
A iniciativa amplia a cooperação entre algumas das principais desenvolvedoras de IA, para além dos programas individuais de segurança mantidos por cada companhia. OpenAI e Anthropic também teriam discutido um acordo para que uma empresa teste os modelos comerciais da outra em busca de vulnerabilidades e comportamentos inesperados.
Nesse modelo, as companhias teriam acesso aos modelos comerciais umas das outras para realizar testes independentes de estresse. Os dados obtidos durante as avaliações, porém, não poderiam ser mantidos pelas empresas.
A proposta ganhou atenção nesta semana após os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, abordarem a segurança da IA no Conselho de Segurança das Nações Unidas (ONU).
Altman afirmou que decisões importantes relacionadas à IA deveriam ser moldadas por instituições democráticas e governos. Amodei defendeu acordos internacionais e padrões globais para testar novos modelos de inteligência artificial.
A OpenAI também já pediu separadamente que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados de IA, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.
A possível criação da SAFA ocorre em meio a divergências sobre a regulamentação da inteligência artificial. De um lado, estão os defensores de salvaguardas mais rígidas para reduzir riscos associados a sistemas cada vez mais capazes. De outro, há quem defenda que as leis existentes e os mecanismos de mercado seriam suficientes para lidar com essas ameaças.
O governo dos Estados Unidos também participa do debate. O presidente Donald Trump se opôs a novas barreiras regulatórias para a IA e defendeu que Estados Unidos e China mantenham o desenvolvimento da tecnologia no curso atual.
Nesse cenário, o órgão proposto por Google, OpenAI e Anthropic representaria uma tentativa das principais desenvolvedoras de estabelecer padrões comuns de segurança enquanto os governos discutem o nível de supervisão a ser aplicado aos sistemas mais avançados.











