Rafael NazarO avanço da inteligência artificial (IA) tem gerado preocupações sobre a possibilidade de perda de controle sobre a tecnologia. Um alerta recente do The Anthropic Institute destaca os riscos associados ao autoaperfeiçoamento das máquinas, que já estão escrevendo mais de 80% do código de seus próprios sistemas.
Com essa autonomia crescente, a empresa observou que seus engenheiros estão produzindo, em média, oito vezes mais código por trimestre do que antes. Essa mudança representa uma redução significativa na dependência do trabalho humano, levantando questões sobre o futuro da interação entre humanos e máquinas.
Risco de autonomia total e recursiva
A pesquisa aponta para o fenômeno do autoaperfeiçoamento recursivo, onde a IA pode projetar e treinar seu sucessor de forma autônoma. Essa evolução pode ocorrer mais rapidamente do que as instituições estão preparadas para lidar, colocando em risco os métodos tradicionais de segurança e monitoramento.
Atualmente, a velocidade com que as máquinas executam tarefas complexas sem intervenção humana dobra a cada quatro meses. Em apenas dois anos, os sistemas já atingiram uma saturação completa em exames globais de engenharia de software, evidenciando a necessidade de uma supervisão mais rigorosa.
Capacidade sobre-humana em testes
A ferramenta Claude Mythos Preview demonstrou uma capacidade de otimização que é considerada sobre-humana. Em testes internos, o sistema conseguiu uma aceleração de 52 vezes no treinamento de pequenos modelos de IA, mostrando um desempenho impressionante.
Além disso, em missões complexas, a taxa de sucesso do software atingiu 76% em maio de 2026, um aumento significativo de 50 pontos percentuais em apenas seis meses. A revisão de segurança de novos códigos também foi delegada a um avaliador inteligente, que interceptou um terço dos erros técnicos em análises retrospectivas.
Proposta de trégua global
Diante desses desafios, a Anthropic propõe a criação de um mecanismo global de verificação conjunta entre governos e laboratórios de ponta. Essa estrutura visa monitorar se as empresas estão respeitando normas rígidas de segurança, garantindo um desenvolvimento mais seguro da IA.
O relatório sugere a implementação de pausas temporárias supervisionadas no desenvolvimento de IA, caso os riscos se tornem incontroláveis. A empresa planeja promover debates com formuladores de políticas públicas para discutir o autoaperfeiçoamento dos sistemas, buscando envolver a sociedade civil nesse debate crucial.
