Uberlandia, MG Ter, 17 de novembro
23° Máx. 27° · Mín. 20° Nublado
Previsão para Uberlândia Hoje: nublado
Amanhã, 18/11 29° 20° 90% chuva
qui, 19/11 29° 20° 84% chuva
sex, 20/11 29° 21° 92% chuva
sáb, 21/11 30° 20° 88% chuva
dom, 22/11 29° 21° 86% chuva
seg, 23/11 29° 21° 92% chuva
ter, 24/11 28° 21° 88% chuva
Dados meteorológicos fornecidos por Open-Meteo.
OpenAI suspende trabalhos com IA Astra após alerta sobre capacidade cibernética ofensiva
Foto original adaptada visualmente por IA.
Inteligência Artificial

OpenAI suspende trabalhos com IA Astra após alerta sobre capacidade cibernética ofensiva

Compartilhar Facebook X WhatsApp Telegram

A OpenAI anunciou nesta sexta-feira (07) a suspensão de atividades internas relacionadas ao Astra, modelo de inteligência artificial ainda em desenvolvimento. A decisão ocorreu após avaliações indicarem avanços relevantes em programação autônoma e cibersegurança.

Segundo a empresa, não foi possível descartar a possibilidade de o sistema atingir um nível crítico de capacidade ofensiva digital. Avaliações internas e análises de especialistas apontaram que o modelo poderia se aproximar dos critérios de risco previstos no framework de preparação da OpenAI.

A preocupação envolve sistemas capazes de executar tarefas complexas de segurança digital sem supervisão humana. A OpenAI afirmou, no entanto, que o Astra não participou do incidente relacionado ao Hugging Face mencionado em avaliações anteriores.

Por que os trabalhos com o Astra foram suspensos

A suspensão ocorreu depois que análises internas identificaram melhorias significativas do Astra em tarefas de criação de código e operações de segurança digital. Conforme a OpenAI, os resultados levantaram a possibilidade de o modelo alcançar o nível mais alto de alerta previsto na estrutura de preparação da companhia.

De acordo com os critérios estabelecidos pela empresa, uma inteligência artificial seria considerada de capacidade cibernética crítica se conseguisse encontrar e desenvolver vulnerabilidades inéditas, de diferentes níveis de gravidade, em sistemas reais protegidos sem auxílio humano. A classificação também poderia ser aplicada a um sistema capaz de criar estratégias completas de ataque contra alvos reforçados a partir de objetivos gerais.

A companhia ressaltou que a avaliação não significa que o Astra tenha realizado ataques ou explorado falhas em sistemas externos. Segundo a OpenAI, o modelo em desenvolvimento também não teve participação no episódio envolvendo o Hugging Face.

OpenAI anuncia novas medidas de proteção

Como resposta ao alerta, a OpenAI informou que pretende ampliar as exigências de segurança aplicadas a modelos mais avançados e às atividades relacionadas a eles. Entre as medidas está a adoção de mecanismos de controle mais rigorosos.

A empresa também declarou ter implementado um monitoramento amplo para acompanhar ações consideradas arriscadas e possíveis sinais de desalinhamento em aplicações baseadas em agentes de inteligência artificial.

O caso Astra amplia o debate sobre o equilíbrio entre o desenvolvimento de sistemas mais poderosos e a criação de mecanismos capazes de limitar usos perigosos. A avaliação interna da OpenAI serviu de base para interromper temporariamente o avanço do modelo, até a aplicação de novos padrões de segurança.

0 votos: 0 positivos, 0 negativos (0 pontos)

Deixe uma resposta
Miramontes 350×750
Notíciasletter
Receba nossas noticias
Um resumo direto no seu e-mail.
Sign In/Sign Up Pesquisar
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...