Rafael NazarA Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta consta em uma atualização de seu prospecto de abertura de capital, o formulário S-1/A, enviado à Comissão de Valores Mobiliários dos Estados Unidos (SEC), conforme informou o Olhar Digital.
A empresa ressaltou que ainda não atingiu esse estágio, mas estimativas internas indicam que isso pode ocorrer em breve. A Anthropic já utiliza sistemas de inteligência artificial em atividades de pesquisa e no desenvolvimento de novos modelos.
Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, essa possibilidade descreve um estágio em que sistemas de IA conseguem aprimorar os próprios processos de desenvolvimento e acelerar a evolução de suas capacidades.
A tecnologia divide opiniões. Críticos alertam que sistemas muito poderosos poderiam escapar ao controle humano e causar danos ao perseguir seus objetivos. Entusiastas, por outro lado, veem a RSI como uma oportunidade para aumentar a produtividade e acelerar descobertas científicas.
No documento enviado à SEC, a Anthropic reconhece os dois lados da discussão. A empresa afirma que já emprega IA em suas pesquisas, mas alerta que essa estratégia pode representar um risco relevante à segurança caso acelere drasticamente o ritmo de desenvolvimento.
A atualização também acrescenta alertas à seção de fatores de risco. A Anthropic revelou que já utilizou sistemas de IA para desenvolver novos modelos sem identificar, naquele momento, a dimensão dos avanços de capacidade alcançados.
Segundo a empresa, o uso crescente da tecnologia nas pesquisas pode fazer com que os modelos evoluam mais rapidamente do que sua capacidade de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.
Estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”. A Anthropic, no entanto, ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento.
A empresa considera atualizar sua Política de Escalonamento Responsável para manter os seres humanos no controle do desenvolvimento de seus modelos mais avançados.
Mesmo diante da possibilidade de autossuperação recursiva, a Anthropic afirma que não espera conseguir usar o Claude para projetar e construir, de forma totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa.
O documento também deve ser analisado no contexto de sua apresentação. Registros enviados à SEC atendem a obrigações de divulgação, mas também podem funcionar como instrumentos para apresentar ao mercado as perspectivas da empresa.
A Anthropic destacou ainda que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela companhia como tendo alcançado o estágio de autossuperação recursiva.
