Rafael NazarPesquisadores de cibersegurança que conseguiram invadir sistemas da OpenAI afirmam que a indústria de inteligência artificial (IA) ainda não está preparada para os riscos criados pelo avanço e pelo aumento do poder da tecnologia.
O grupo da Hacktron, uma startup de segurança digital, acessou sistemas da empresa responsável pelo ChatGPT com o auxílio do Claude, chatbot desenvolvido pela Anthropic, principal concorrente da OpenAI. Segundo publicações da Hacktron no X, o ataque começou em um painel público de mensagens e avançou até sistemas privados da OpenAI, incluindo parte do código interno da companhia.
A OpenAI corrigiu a vulnerabilidade e pagou US$ 6,5 mil, o equivalente a R$ 33,4 mil, aos pesquisadores pela descoberta e comunicação do problema.
O caso, somado a outros episódios em que modelos de IA acessaram a internet sem serem detectados e atacaram outras empresas, ampliou as críticas de especialistas em cibersegurança. Na avaliação deles, as medidas de proteção adotadas pelas empresas não acompanham o poder atribuído aos sistemas de inteligência artificial.
Mohan Pedhapati, um dos pesquisadores da Hacktron, afirmou que o uso de ferramentas empresariais convencionais, como Slack, navegadores voltados ao público e outros aplicativos acessíveis pela internet, pode deixar a OpenAI vulnerável.
“Se as pessoas que constroem esses sistemas realmente acreditam que eles são poderosos o suficiente para criar riscos de nível nuclear, e estão falando em desacelerar por causa desses riscos, por que esse trabalho… é feito por meio de produtos SaaS comuns?”, questionou Pedhapati em uma publicação no X.
Especialista considera caso um “tiro de advertência”
O CEO da OpenAI, Sam Altman, passou recentemente a defender, ao lado de outros líderes do setor, uma redução no ritmo de desenvolvimento da IA. A preocupação é que as capacidades da tecnologia estejam avançando mais rapidamente do que a capacidade da indústria de controlá-las.
Em comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores pelo contato e pelo compartilhamento das descobertas. A empresa também afirmou ter reforçado suas medidas de segurança.
Para Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security, da Auburn University, o fato de uma pequena equipe ter realizado o ataque deveria ser visto como um “tiro de advertência”. Segundo os pesquisadores, o custo para utilizar os sistemas da Anthropic foi de US$ 3 mil, cerca de R$ 15,4 mil.
“Se três pesquisadores responsáveis, equipados com ferramentas comerciais de IA, conseguiram alcançar esse nível de acesso em questão de dias, temos que presumir que serviços de inteligência estrangeiros com muitos recursos estão perseguindo os mesmos alvos continuamente e certamente nunca avisando o alvo sobre o que fizeram e como fizeram”, afirmou Cilluffo.
Especialistas em segurança nacional alertam há anos que empresas americanas de IA podem ser alvos de hackers apoiados por governos estrangeiros interessados em reduzir a vantagem dos Estados Unidos no setor. Os pedidos para desacelerar o desenvolvimento da tecnologia também levaram parlamentares dos dois principais partidos americanos a defender maior supervisão governamental.
O presidente Donald Trump rejeitou as propostas e afirmou que a indústria precisa avançar rapidamente para manter os Estados Unidos à frente da China.
Claude foi usado no ataque
A invasão realizada pela Hacktron ocorreu após meses de debates na indústria de tecnologia e no governo Trump sobre como lidar com a capacidade crescente dos modelos de IA de identificar falhas de segurança em softwares. OpenAI e Anthropic limitaram o acesso aos recursos completos de cibersegurança de seus chatbots.
Enquanto isso, empresas chinesas lançaram modelos gratuitos com recursos avançados de invasão disponíveis para qualquer pessoa.
Em julho, a OpenAI informou que alguns de seus próprios agentes de IA haviam escapado dos sistemas da empresa durante testes internos. Os agentes acessaram a internet pública e invadiram outra empresa de inteligência artificial.
O episódio provocou críticas de especialistas, que avaliaram que a OpenAI poderia ter feito mais para impedir a saída dos agentes da rede. A empresa contratou pesquisadores externos de IA para investigar como isso aconteceu, mas a apuração não incluiu uma análise independente tradicional de cibersegurança.
O ataque da Hacktron ocorreu aproximadamente no mesmo período. Depois, a OpenAI redirecionou parte significativa de seus recursos de engenharia para reforçar a segurança.
Greg Brockman, presidente da empresa, afirmou em entrevista a um podcast da empresa de investimentos Andreessen Horowitz que 25% dos engenheiros de produção foram temporariamente transferidos para essa tarefa.
“Pegamos 25% dos nossos engenheiros de produção e dissemos: ‘Desculpem, todos os seus projetos estão suspensos. Agora vocês estão na defesa’”, contou Brockman. “Encontramos vários problemas graves e os corrigimos”, acrescentou.
Pesquisadores criticam reação da OpenAI
Os pesquisadores da Hacktron também criticaram a forma como a OpenAI reagiu depois de ser informada sobre a vulnerabilidade. A empresa, assim como outras grandes companhias, incentiva publicamente pesquisadores de segurança a relatarem falhas.
Fabian Faessler, chefe de engenharia de agentes da Hacktron, afirmou no X que Dane Stuckey, diretor de segurança da informação da OpenAI, havia chamado os pesquisadores de pouco profissionais. Faessler disse que esperava uma postura mais receptiva.
Dan Wallach, pesquisador residente em segurança de IA da organização Rand, afirmou que a OpenAI teve sorte porque a falha foi encontrada por pesquisadores que decidiram se identificar e compartilhar as informações.
“Como regra geral, não é educado fazer o que eles fizeram, mas eu acho que a OpenAI deveria estar satisfeita porque o invasor foi gentil o suficiente para avisá-los”, disse Wallach.
Depois das publicações de Faessler no X, Stuckey entrou em contato com o pesquisador para pedir desculpas, segundo uma publicação posterior de Faessler.
