Rafael NazarA OpenAI admitiu ter falhado na resposta após agentes de inteligência artificial acessarem, sem autorização, sites do governo australiano durante testes internos. A empresa levou três meses para comunicar o episódio às autoridades e reconheceu que deveria ter procurado diretamente os responsáveis.
O caso foi discutido em uma investigação parlamentar sobre inteligência artificial na Austrália. A audiência também abordou o uso de conteúdos protegidos por direitos autorais no treinamento de modelos e ouviu representantes da OpenAI e da Anthropic sobre a responsabilidade das empresas e os limites para o desenvolvimento da tecnologia no país.
Durante a audiência, o senador independente David Pocock questionou Jason Kwon, diretor de estratégia da OpenAI, sobre a decisão de enviar uma mensagem a um endereço genérico de um departamento, em vez de contatar diretamente as autoridades. O executivo admitiu que a estratégia foi inadequada.
“Em retrospecto, deveríamos ter feito o que você está sugerindo”, afirmou Kwon. Segundo ele, os funcionários trataram inicialmente o episódio como uma questão técnica e tentaram falar com equipes técnicas do governo. “Não foi suficiente”, reconheceu.
A OpenAI informou que revisa, desde novembro de 2025, registros de treinamentos de agentes. A análise identificou atividade em junho e busca verificar se houve outros episódios semelhantes. Kwon disse que, caso novos incidentes sejam encontrados, os órgãos públicos serão avisados “muito, muito rapidamente”. A empresa classificou a atividade nos sites australianos como menos sofisticada do que o ataque envolvendo a plataforma Hugging Face.
A condução do episódio ampliou o debate sobre a responsabilidade das empresas à medida que sistemas de IA ganham capacidade de interagir diretamente com serviços e informações. A discussão envolve não apenas o funcionamento dos modelos, mas também a forma como as companhias lidam com incidentes.
Os direitos autorais também foram tema da audiência. Jeffrey Bleich, enviado especial da Anthropic e ex-embaixador dos Estados Unidos na Austrália, negou que a empresa tente determinar como o país deve tratar o assunto. “Nunca tentamos ditar à Austrália” suas regras de direitos autorais, afirmou.
Segundo Bleich, a Anthropic apenas explicou como funciona o treinamento e quais seriam as consequências das regras atuais para a operação da empresa. A companhia considera que a legislação australiana pode exigir uma licença para cada conteúdo usado no treinamento, exigência classificada por Bleich como “tecnicamente impossível”.
A Anthropic também demonstrou interesse em discutir com o governo formas de incentivar o treinamento de modelos no país. De acordo com Bleich, a Austrália poderia participar do desenvolvimento de modelos avançados caso eles fossem treinados localmente. A empresa afirmou ter revisado centenas de milhões de registros e não ter encontrado interações indevidas com o governo.
Organizações que representam artistas, veículos de comunicação e outros profissionais do setor criativo, no entanto, fizeram oposição às propostas das empresas de IA. O principal receio é que uma mudança nas regras transfira aos detentores dos direitos o custo de acompanhar e controlar o uso de suas obras.
Annabelle Herd, presidente-executiva da Australian Recording Industry Association (Aria), afirmou que artistas australianos podem ser prejudicados caso o país altere suas leis para atender aos interesses das companhias de tecnologia. A mesma posição foi defendida pela ABC. Kate Gilchrist, responsável pelas operações jurídicas e de conteúdo da emissora, disse que um sistema de exclusão obrigaria os detentores dos direitos a monitorar continuamente onde seus trabalhos são publicados e utilizados.
A Media Entretenimento and Arts Alliance (MEAA), sindicato que representa profissionais do entretenimento e das notícias, defendeu um modelo de remuneração para empresas de IA. A proposta prevê pagamentos aos profissionais cujo trabalho contribui para esses sistemas e a criação de um fundo destinado a atividades culturais, musicais e jornalísticas.
As audiências da investigação parlamentar australiana seguem até sexta-feira. Os parlamentares discutem como equilibrar o desenvolvimento da inteligência artificial, a responsabilidade das empresas e a proteção de quem produz o conteúdo usado por esses sistemas.
