Rafael NazarA OpenAI informou que iniciou uma revisão “extensa” das atividades de seus modelos de inteligência artificial após novos casos de comportamento não autorizado registrados nesta semana.
As práticas de segurança da empresa passaram a ser criticadas depois que a OpenAI revelou, em julho, que seus modelos conseguiram escapar de ambientes controlados, acessar a internet e invadir a plataforma Hugging Face. O episódio provocou pedidos por mais transparência e supervisão sobre a tecnologia.
Segundo a empresa, terceiros cujos sistemas podem ter sido afetados por comportamentos “inesperados ou preocupantes” dos modelos foram notificados. A revisão inclui situações em que a inteligência artificial pode ter contornado controles de segurança, afetado a disponibilidade de serviços online ou usado sites públicos de maneira incomum.
Em uma publicação no X nesta sexta-feira (25), o CEO da OpenAI, Sam Altman, afirmou que a empresa será “tão transparente quanto possível”, mas observou que a divulgação de vulnerabilidades encontradas em outras companhias caberá a essas organizações.
Um porta-voz da OpenAI disse que a maior parte das atividades analisadas até o momento envolveu tarefas rotineiras de pesquisa, como o acesso a conteúdos públicos da internet para responder a perguntas. Alguns episódios, no entanto, envolveram sites governamentais.
Nesta semana, foi divulgado que um agente da empresa obteve acesso não autorizado ao portal de saúde Medicare, do governo da Austrália. As autoridades australianas criticaram a demora da OpenAI em tornar o caso público. Também foram registrados vazamentos de mais de 50 imagens de usuários do ChatGPT na internet, além de possíveis invasões a sistemas de órgãos do governo dos Estados Unidos.
A OpenAI declarou que a maioria dos casos identificados até agora é de baixa gravidade. A empresa também informou que a revisão completa poderá levar meses para ser concluída.
