Rafael NazarO avanço acelerado da inteligência artificial tem levado especialistas e autoridades a alertar para os riscos de modelos cada vez mais poderosos. A preocupação é que esses sistemas se tornem difíceis de acompanhar ou limitar. Segundo o The Guardian, o lançamento do GPT-6 Astra, da OpenAI, intensificou esse debate.
A OpenAI afirma ter alcançado a inteligência artificial geral (IAG), definida pela empresa como a capacidade de sistemas autônomos superarem seres humanos na maior parte dos trabalhos economicamente valiosos. Ao mesmo tempo, incidentes recentes e a dificuldade de monitorar o raciocínio do modelo levantam dúvidas sobre os limites do controle humano.
Robert Trager, diretor da Oxford Martin AI Governance Initiative, comparou o momento atual a uma descida por corredeiras, sem saber se existe uma cachoeira adiante. Ele demonstrou preocupação com a possibilidade de os sistemas chegarem à chamada melhoria recursiva, passando a aprimorar as próprias capacidades.
“Estamos atravessando as corredeiras e realmente esperamos que não haja algum tipo de queda à nossa frente, mas não sabemos”, afirmou Trager ao The Guardian.
O alerta ganhou força após relatos de que agentes de IA teriam reutilizado um site alemão como fórum para compartilhar estratégias destinadas a burlar tarefas. Antes disso, uma rede de agentes da OpenAI havia hackeado o Hugging Face, plataforma de software utilizada por desenvolvedores de inteligência artificial.
Nos Estados Unidos, o senador Bernie Sanders defendeu uma pausa imediata no desenvolvimento de sistemas avançados e uma proibição permanente da superinteligência. No Reino Unido, parlamentares discutem mecanismos legais que permitam desligar sistemas em caso de perda de controle.
Segundo a OpenAI, o GPT-6 Astra pode executar tarefas como projetar placas de circuito, preencher declarações de impostos, criar videogames, fazer modelagem financeira e ajudar na elaboração de documentos jurídicos. A capacidade de realizar esse tipo de atividade também coloca os empregos qualificados no centro da discussão sobre os efeitos da automação.
O modelo recebeu da OpenAI a classificação “crítica” em capacidade de cibersegurança. Pela definição da própria empresa, isso significa que o Astra poderia invadir softwares em situações capazes de afetar sistemas militares, industriais ou a infraestrutura da OpenAI.
Além das tarefas que consegue realizar, preocupa a dificuldade de compreender os processos internos do modelo. O Astra foi treinado para raciocinar de maneira mais rápida e menos transparente, o que reduz a capacidade de acompanhar sua cadeia de pensamento.
A OpenAI confirmou que houve uma queda significativa na monitorabilidade do Astra em comparação com versões anteriores. “À medida que as capacidades dos modelos aumentam, o monitoramento fica mais desafiador”, afirmou Jakub Pachocki, cientista-chefe da empresa.
Pesquisadores de segurança temem que a menor visibilidade dificulte a identificação de comportamentos indesejados, inclusive possíveis ações contra os próprios supervisores humanos.
Após o incidente envolvendo o Hugging Face, o CEO da OpenAI, Sam Altman, classificou o episódio como um acidente legítimo de segurança de IA e uma falha de alinhamento. Mesmo assim, ele defendeu o lançamento do Astra.
Segundo Altman, colocar os sistemas em uso ajuda a sociedade a compreender a evolução da tecnologia e a se adaptar a ela. “Um ciclo iterativo em que a sociedade e essa tecnologia evoluem juntas é o que levará à maior chance de acertarmos isso”, afirmou.
Altman também alertou para problemas de cibersegurança e mencionou riscos relacionados à biossegurança e a outros desafios que podem surgir nos próximos cinco anos. O debate, portanto, não envolve apenas o que a inteligência artificial já consegue fazer, mas também se a capacidade humana de supervisioná-la será capaz de acompanhar esse avanço.
