Rafael NazarUm sistema de inteligência artificial da OpenAI, empresa responsável pelo ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos sobre a saúde pública do país, incluindo informações do Medicare. O ataque cibernético ocorreu em 18 de julho, mas foi divulgado apenas nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia [órgão que gerencia os programas do governo australiano]. No entanto, esta situação é obviamente inaceitável”, afirmou Albanese a jornalistas em Nova York, durante a 81ª Assembleia Geral das Nações Unidas (ONU).
Segundo o primeiro-ministro, o portal invadido continha dados sobre os gastos da Austrália com saúde pública. Ele criticou os protocolos de segurança da OpenAI e a demora da empresa, sediada nos Estados Unidos, para comunicar o incidente ao governo. A notificação ocorreu apenas em 10 de setembro, quase dois meses depois da invasão.
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, disse Albanese.
A Austrália criou uma força-tarefa para investigar o caso. O trabalho poderá resultar em medidas judiciais, policiais e legislativas para responsabilizar os envolvidos e evitar novos ataques cibernéticos.
Albanese afirmou acreditar que a invasão pode ter ocorrido por razões comerciais, com o objetivo de verificar quanto havia sido gasto em determinados medicamentos. De acordo com ele, uma pesquisa da OpenAI sobre despesas de saúde não conseguiu acessar dados restritos do governo australiano.
“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, explicou o primeiro-ministro.
Procurada, a assessoria de imprensa da OpenAI não se manifestou até a publicação da reportagem.
Este não seria o primeiro caso de invasão não autorizada realizada por sistemas de inteligência artificial da empresa. Em julho deste ano, agentes de IA da OpenAI invadiram a Hugging Face, também do setor de inteligência artificial. Em comunicado, a empresa afirmou que o episódio ocorreu por problemas no desenvolvimento dos sistemas e que novas medidas de segurança foram adotadas. “Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, declarou a companhia.
A divulgação do ataque ao portal australiano ocorreu durante debates no Conselho de Segurança da ONU, em Nova York, sobre a criação de uma governança global para os sistemas de inteligência artificial.
O professor Yoshua Bengio, co-presidente do Painel Internacional Independente da ONU sobre IA, afirmou que os chamados agentes de inteligência artificial atuam de maneira “inaceitavelmente perigosa”. “Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse.
Segundo Bengio, as empresas que desenvolvem os sistemas de IA mais avançados ainda não apresentam soluções técnicas convincentes, embora reconheçam os riscos de seus produtos. Sam Altman também discursou no Conselho de Segurança e defendeu uma governança global para estabelecer parâmetros de uso seguro da tecnologia.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, afirmou o CEO da OpenAI.
O debate na ONU reúne, de um lado, os Estados Unidos, que rejeitam limitar o avanço da inteligência artificial e criticam a criação de uma governança global para o setor. Do outro, China e países como o Brasil defendem a cooperação internacional para estabelecer parâmetros de segurança.
Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, afirmou que o governo de Donald Trump busca garantir “avanços contínuos” da IA que beneficiem os Estados Unidos. “Este órgão e outros semelhantes devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema regulatório global”, declarou.
O representante da China no Conselho de Segurança, Fu Cong, defendeu a cooperação entre os países e afirmou que a ideia de “nós contra eles” no setor tecnológico atende à tentativa de grandes potências de preservar sua vantagem por meio do monopólio e da busca por hegemonia digital.
Para o diplomata chinês, “a IA é um bem comum a toda a humanidade e não deve se tornar um jogo exclusivo de países e pessoas ricas”.
