Rafael NazarA Anthropic, uma das principais empresas de inteligência artificial, propôs uma pausa global no avanço dessa tecnologia. A justificativa é a rápida evolução dos sistemas de IA, que pode levar à criação de modelos capazes de desenvolver suas próprias versões, um cenário que, segundo a empresa, pode surgir antes que a sociedade esteja pronta para lidar com ele.
No blog da Anthropic, a empresa reconhece que uma IA autossuficiente pode trazer benefícios significativos em áreas como saúde e ciência. No entanto, alerta que isso também pode resultar em riscos elevados, como a perda de controle humano sobre essas tecnologias. A proposta de desaceleração visa dar tempo para que as estruturas sociais e as pesquisas de segurança se adaptem a essa nova realidade.
Verificação como condição para qualquer acordo
Para que a proposta de desaceleração seja eficaz, a Anthropic enfatiza a necessidade de mecanismos de fiscalização. Sem controle, algumas empresas poderiam continuar a desenvolver tecnologias em segredo, enquanto outras respeitam a pausa.
A empresa compara essa situação a tratados de armas nucleares, sugerindo que uma coordenação internacional é possível, embora complexa. A Anthropic admite que a criação de acordos desse tipo pode levar anos, algo que contrasta com a velocidade do setor de IA.
Pesquisa interna e papel do Anthropic Institute
A proposta de desaceleração está ligada ao trabalho do Anthropic Institute, uma divisão de pesquisa criada em março. O instituto tem como objetivo investigar os desafios que surgem com o desenvolvimento de sistemas de IA mais avançados.
Entre os pontos abordados estão os riscos de evolução descontrolada da IA, a dificuldade em estabelecer regras globais e os impactos sociais e econômicos que podem advir dessa tecnologia. A empresa também destaca a necessidade de ampliar as pesquisas em segurança de IA.
Entretanto, a postura da Anthropic não está isenta de críticas. Alguns especialistas veem os alertas da empresa como uma estratégia de marketing para se destacar no mercado, especialmente após o lançamento restrito de seu modelo de IA para cibersegurança, o Mythos.
Apesar das controvérsias, a Anthropic se aproxima de um marco importante: o primeiro trimestre lucrativo, enquanto outras empresas do setor ainda lutam para alcançar esse objetivo. Além disso, a empresa já protocolou documentos para abrir capital, com previsão de que isso ocorra ainda este ano.
