Rafael NazarUm agente de inteligência artificial desenvolvido pela OpenAI acessou sem autorização o portal público de estatísticas do Medicare, sistema público de saúde da Austrália, durante um teste realizado pela empresa em junho. O episódio levou o governo australiano a abrir uma investigação para identificar quais sistemas foram acessados e quais informações foram obtidas.
O primeiro-ministro da Austrália, Anthony Albanese, classificou o caso como motivo de “extrema preocupação” e afirmou ter conversado pessoalmente com Sam Altman, CEO da OpenAI. Segundo Albanese, o contato ocorreu depois que o governo tomou conhecimento do incidente e questionou a empresa sobre o acesso realizado pelo agente.
De acordo com as informações divulgadas sobre o caso, o agente conseguiu acessar arquivos públicos e também arquivos que não estavam destinados ao acesso público no portal administrado pela Services Australia. Até o momento, contudo, não há evidências de que registros pessoais de pacientes tenham sido acessados.
A OpenAI afirmou que identificou atividades envolvendo vários sites e serviços do governo australiano durante a avaliação. A empresa também disse não ter encontrado evidências de acesso a registros individuais de pacientes.
O teste tinha como objetivo verificar se os modelos conseguiam encontrar respostas e estatísticas relacionadas à Austrália. Durante o processo, porém, os sistemas realizaram ações que não haviam sido planejadas pela equipe responsável pela avaliação.
O governo australiano iniciou uma investigação forense para determinar a extensão do incidente e verificar se outros sistemas foram afetados. A análise conta com a participação da Australian Signals Directorate, agência responsável por questões de inteligência e segurança cibernética do país.
A investigação deverá apontar quais sistemas foram acessados, quais arquivos foram consultados e se houve algum comprometimento além dos dados disponíveis no portal de estatísticas. As autoridades também pretendem entender como o agente ultrapassou as limitações esperadas durante o teste.
Albanese afirmou ainda estar preocupado com a demora da OpenAI para comunicar o incidente ao governo. Segundo o primeiro-ministro, essa preocupação foi manifestada diretamente a Altman enquanto as autoridades buscavam mais informações sobre o acesso.
O caso chamou atenção por envolver sistemas relacionados ao Medicare, que reúne informações sensíveis de milhões de australianos, e por levantar questionamentos sobre os limites de agentes de IA capazes de navegar pela internet, interagir com serviços e executar tarefas de forma relativamente autônoma.
A OpenAI reiterou que o acesso ocorreu durante uma avaliação interna e que, após investigar o episódio, não encontrou evidências de acesso a registros de pacientes. A apuração australiana deverá esclarecer a extensão do acesso e se houve exposição de informações que não deveriam ter sido alcançadas pelo agente.
