Rafael NazarA OpenAI pediu ao Congresso dos Estados Unidos que aprove normas nacionais obrigatórias de segurança para os sistemas de inteligência artificial (IA) mais avançados. A empresa defende que os requisitos sejam definidos pelas capacidades dos modelos, e não pelo tamanho das companhias responsáveis pelo desenvolvimento.
O pedido foi apresentado por Chris Lehane, diretor de assuntos globais da OpenAI. Segundo ele, compromissos voluntários já não são suficientes diante do avanço da tecnologia. “A perspectiva de um desenvolvimento de IA acelerado pela própria IA exige algo mais do que compromissos voluntários”, escreveu.
Lehane afirmou que os Estados Unidos precisam de uma regulamentação nacional obrigatória, baseada nas capacidades dos sistemas e capaz de acompanhar a evolução tecnológica. A OpenAI quer que o Congresso avance com as regras antes de encerrar as atividades em dezembro.
Atualmente, os Estados Unidos não têm uma legislação federal específica para regulamentar esses modelos. Enquanto isso, diferentes estados vêm criando normas próprias para a inteligência artificial.
A proposta da OpenAI inclui padrões comuns de testes, avaliações independentes dos modelos mais avançados, exigências mais rígidas de cibersegurança e notificação obrigatória de incidentes graves de segurança. A intenção é criar um sistema capaz de acompanhar o aumento das capacidades dos modelos.
A empresa também defende padrões compatíveis internacionalmente. Segundo a OpenAI, os Estados Unidos precisam estabelecer regras confiáveis internamente caso queiram liderar a definição de padrões globais.
O posicionamento representa uma mudança na estratégia da companhia. Antes, a OpenAI havia defendido uma legislação federal que impedisse os estados norte-americanos de criarem regras próprias para IA. Agora, além de pedir uma regulamentação nacional obrigatória, a empresa anunciou apoio a quatro projetos de lei da Califórnia relacionados à segurança da tecnologia.
Os projetos SB 813 e AB 1405 estabelecem estruturas para avaliações independentes e auditorias de sistemas de IA. Já o AB 1864 e o SB 1119 tratam, respectivamente, de medidas de proteção contra ameaças biológicas habilitadas por IA e da proteção de crianças em chatbots.
De acordo com a OpenAI, alguns desses projetos não tinham recebido seu apoio anteriormente. A empresa afirmou ter mudado de posição após reconsiderar o cenário diante do recente salto nas capacidades dos sistemas.
O novo posicionamento ocorre após episódios envolvendo agentes de IA que apresentaram comportamentos não autorizados durante testes. Em um dos casos, agentes da OpenAI usaram mais de dez sites que ainda não haviam sido divulgados para realizar comunicações não autorizadas. Em outro, agentes da empresa sequestraram um site alemão e o transformaram em uma espécie de quadro de mensagens para outros agentes de IA.
A OpenAI também foi criticada após um incidente em julho, quando uma tecnologia da empresa, operando sem supervisão humana, invadiu de forma autônoma a plataforma Hugging Face. A Anthropic, por sua vez, revelou outro caso de um modelo de IA invadindo sistemas externos durante testes e já havia informado que alguns modelos Claude conseguiram invadir sistemas de três companhias em avaliações de segurança.
Os episódios ampliaram as preocupações sobre a dificuldade de controlar agentes capazes de interagir diretamente com sistemas externos.
Um dos pontos centrais da nova política da OpenAI é o chamado aperfeiçoamento recursivo, cenário em que uma IA seria capaz de conduzir autonomamente o desenvolvimento das próximas gerações de sistemas de inteligência artificial. A empresa afirma que esse aperfeiçoamento recursivo totalmente autônomo não está ocorrendo atualmente.
Ao mesmo tempo, a OpenAI diz que esse tipo de desenvolvimento não deveria ser buscado enquanto não houver condições para fazê-lo com segurança. A companhia também afirma que a evolução das capacidades da IA exige uma nova etapa nas políticas públicas.
A empresa informou que continuará trabalhando em soluções técnicas de alinhamento e monitoramento, sistemas defensivos e na possibilidade de desacelerar o desenvolvimento quando necessário. No entanto, avalia que o trabalho realizado individualmente pelos laboratórios não será suficiente.
Por isso, a OpenAI defende padrões compartilhados para definir quando o desenvolvimento de sistemas de IA deve ser desacelerado ou interrompido.
Além da regulamentação nacional, a companhia propõe padrões internacionais compatíveis para medir capacidades, administrar riscos, preservar o controle humano e determinar quando o desenvolvimento de modelos deve ser reduzido ou interrompido.
Segundo a OpenAI, os riscos e as capacidades dos sistemas não ficarão restritos aos poucos laboratórios que atualmente desenvolvem os modelos mais avançados. “Os Estados Unidos precisam estabelecer padrões confiáveis internamente se quiserem liderar internacionalmente — e estamos cada vez mais convencidos de que padrões internacionais compatíveis serão necessários”, afirmou a empresa.
