Uberlandia, MG Ter, 17 de novembro
20° Máx. 27° · Mín. 20° Parcialmente nublado
Previsão para Uberlândia Hoje: parcialmente nublado
Amanhã, 18/11 28° 20° 86% chuva
qui, 19/11 28° 20° 87% chuva
sex, 20/11 28° 20° 78% chuva
sáb, 21/11 29° 20° 94% chuva
dom, 22/11 29° 21° 85% chuva
seg, 23/11 29° 21° 89% chuva
ter, 24/11 28° 21° 93% chuva
Dados meteorológicos fornecidos por Open-Meteo.
Google, OpenAI e Anthropic avançam na criação de órgão independente de segurança para IA
Foto original adaptada visualmente por IA.
Inteligência Artificial

Google, OpenAI e Anthropic avançam na criação de órgão independente de segurança para IA

Compartilhar Facebook X WhatsApp Telegram

Google, OpenAI e Anthropic estão avançando na criação de uma organização independente voltada ao desenvolvimento de padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa ocorre em meio ao aumento das discussões sobre a regulamentação de tecnologias cada vez mais avançadas.

Segundo o The Information, o grupo está em formação e as empresas usam provisoriamente o nome Standards Authority for Frontier AI (SAFA). A proposta é que a entidade funcione de forma independente e ajude a preencher lacunas na supervisão governamental da IA.

A iniciativa amplia a cooperação entre algumas das principais desenvolvedoras de IA, para além dos programas individuais de segurança mantidos por cada companhia. OpenAI e Anthropic também teriam discutido um acordo para que uma empresa teste os modelos comerciais da outra em busca de vulnerabilidades e comportamentos inesperados.

Nesse modelo, as companhias teriam acesso aos modelos comerciais umas das outras para realizar testes independentes de estresse. Os dados obtidos durante as avaliações, porém, não poderiam ser mantidos pelas empresas.

A proposta ganhou atenção nesta semana após os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, abordarem a segurança da IA no Conselho de Segurança das Nações Unidas (ONU).

Altman afirmou que decisões importantes relacionadas à IA deveriam ser moldadas por instituições democráticas e governos. Amodei defendeu acordos internacionais e padrões globais para testar novos modelos de inteligência artificial.

A OpenAI também já pediu separadamente que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados de IA, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.

A possível criação da SAFA ocorre em meio a divergências sobre a regulamentação da inteligência artificial. De um lado, estão os defensores de salvaguardas mais rígidas para reduzir riscos associados a sistemas cada vez mais capazes. De outro, há quem defenda que as leis existentes e os mecanismos de mercado seriam suficientes para lidar com essas ameaças.

O governo dos Estados Unidos também participa do debate. O presidente Donald Trump se opôs a novas barreiras regulatórias para a IA e defendeu que Estados Unidos e China mantenham o desenvolvimento da tecnologia no curso atual.

Nesse cenário, o órgão proposto por Google, OpenAI e Anthropic representaria uma tentativa das principais desenvolvedoras de estabelecer padrões comuns de segurança enquanto os governos discutem o nível de supervisão a ser aplicado aos sistemas mais avançados.

0 votos: 0 positivos, 0 negativos (0 pontos)

Deixe uma resposta
Miramontes 350×750
Notíciasletter
Receba nossas noticias
Um resumo direto no seu e-mail.
Sign In/Sign Up Pesquisar
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...