Rafael NazarDavid Robinson, ex-funcionário da área de segurança da OpenAI, criticou a maneira como empresas de inteligência artificial (IA) estão lidando com os riscos relacionados ao desenvolvimento de sistemas cada vez mais avançados. Para ele, a velocidade da corrida tecnológica aumenta a possibilidade de falhas e exige uma postura mais cautelosa.
Em artigo publicado neste sábado (3) na revista estadunidense The Atlantic, Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo “nem de perto cuidadosas o suficiente”. Segundo o ex-funcionário, as companhias deveriam ampliar o espaço destinado a especialistas em segurança e à pesquisa antes de desenvolver novos sistemas. “O tempo de tentativa e erro acabou”, escreveu.
Na avaliação de Robinson, sistemas avançados de IA precisam de medidas de segurança semelhantes às adotadas em setores como energia nuclear e aviação. Ele também criticou a chamada “implantação iterativa”, prática da OpenAI que consiste em lançar sistemas e reforçar os mecanismos de segurança conforme os problemas surgem.
As declarações ocorrem em meio ao debate sobre a velocidade de desenvolvimento de sistemas avançados de IA. A OpenAI e a Anthropic têm sido questionadas após episódios envolvendo falhas em controles de segurança ou comportamentos inesperados de sistemas experimentais.
Robinson disse ter trabalhado por três anos e meio na OpenAI. Durante o período, ajudou a elaborar a estrutura usada pela empresa para lidar com riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados.
“À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário”, escreveu.
Em resposta às críticas, a OpenAI afirmou que busca evitar que seus modelos se tornem mais avançados do que a empresa consegue administrar com segurança. “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”, disse um porta-voz da companhia.
O ex-funcionário também alertou que as capacidades da IA estão avançando mais rapidamente do que o conhecimento dos pesquisadores sobre o chamado “alinhamento”, área que busca fazer com que os sistemas atuem de acordo com objetivos e valores humanos.
Críticas de outro ex-pesquisador
As críticas de Robinson não são um caso isolado entre profissionais que passaram por empresas de IA. No mês passado, Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, acusou as duas empresas estadunidenses de “brincar com as nossas vidas”.
Britânico de 27 anos, Coxon trabalhou nos últimos três anos com pré-treinamento, etapa em que os modelos de IA absorvem grandes quantidades de informação. Ele passou primeiro pela OpenAI e, neste ano, pela Anthropic.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.
