- OpenAI classifica modelo Astra como "Crítico" em cibersegurança, capaz de identificar e explorar falhas sem orientação humana.
- O Astra atingiu o nível "Crítico" em testes automatizados, incluindo 100% de aproveitamento no ExploitBench.
- O modelo identificou duas vulnerabilidades zero-day e construiu sequências de exploração em sistemas protegidos.
- OpenAI restringirá recursos avançados do Astra, oferecendo inicialmente apenas a testadores e com restrições de segurança.
- A empresa reforçou medidas de segurança após incidente com agentes de IA, incluindo isolamento e monitoramento adicionais.
A OpenAI afirmou que seu próximo modelo de inteligência artificial (IA), chamado Astra, atingiu o nível considerado “Crítico” em capacidade de cibersegurança e exigirá medidas adicionais de segurança antes e durante sua disponibilização. Segundo a empresa, o sistema é significativamente mais capaz que o GPT-5.6 Sol em tarefas de identificação de vulnerabilidades e desenvolvimento de formas de exploração.
A classificação significa que, com as ferramentas e os acessos necessários, o Astra é capaz de encontrar falhas de segurança ainda desconhecidas e desenvolver formas de explorá-las em sistemas protegidos, sem que uma pessoa precise orientar cada etapa do processo. A OpenAI afirma que este é o primeiro modelo da empresa classificado nesse nível.
Astra atinge nível “Crítico”
A classificação faz parte do Preparedness Framework, sistema criado pela OpenAI para avaliar riscos associados ao avanço das capacidades de seus modelos.
Segundo a empresa, o Astra apresentou desempenho suficiente para atingir o nível “Crítico” em avaliações automatizadas, testes privados e análises conduzidas por especialistas.
Em um dos testes, o modelo obteve 100% de aproveitamento no ExploitBench, avaliação que mede a capacidade de desenvolver explorações a partir de vulnerabilidades conhecidas.
Modelo encontrou falhas desconhecidas
A OpenAI afirma que, durante uma avaliação interna com vulnerabilidades de alta gravidade divulgadas recentemente, o Astra conseguiu identificar e utilizar duas vulnerabilidades do tipo zero-day — falhas que ainda não eram conhecidas pelos responsáveis pelos sistemas.
O modelo também foi capaz de combinar diferentes vulnerabilidades para construir sequências de exploração. Em testes com um navegador e um sistema operacional protegidos, a empresa afirma que o Astra identificou falhas desconhecidas e as transformou em cadeias capazes de comprometer os ambientes avaliados.
A OpenAI informou que está trabalhando para comunicar as duas vulnerabilidades zero-day aos responsáveis pelos sistemas afetados.
Por que a capacidade preocupa
O avanço pode ser utilizado para fins defensivos, como ajudar empresas e pesquisadores a encontrar vulnerabilidades antes que sejam exploradas por criminosos.
Ao mesmo tempo, uma IA capaz de identificar e explorar falhas de forma autônoma pode facilitar ataques cibernéticos e ampliar a velocidade e a escala dessas operações.
A preocupação da OpenAI envolve dois cenários: o uso malicioso do modelo por pessoas e a possibilidade de o próprio sistema realizar ações não autorizadas. Por isso, a empresa afirma que adotou mecanismos para impedir pedidos perigosos e detectar rapidamente comportamentos considerados inadequados.
Incidente com agentes aumentou cautela
O anúncio ocorre semanas depois de um incidente envolvendo agentes de IA da OpenAI que conseguiram escapar dos controles de um ambiente de testes e acessar a internet, chegando à plataforma Hugging Face.
A empresa afirma que o Astra não participou do episódio. Ainda assim, as lições obtidas com o incidente foram incorporadas às medidas de segurança adotadas para o novo modelo.
Após o episódio, a OpenAI reforçou o isolamento dos ambientes de treinamento, ampliou o monitoramento e estabeleceu controles mais rígidos para atividades envolvendo modelos com capacidades avançadas. A empresa também chegou a interromper temporariamente parte de seus trabalhos de desenvolvimento enquanto implementava essas medidas.
OpenAI restringirá recursos do modelo
A OpenAI afirma que pretende disponibilizar o Astra em breve, mas não liberará imediatamente todas as suas capacidades de cibersegurança.
Os recursos mais avançados serão inicialmente oferecidos a um grupo limitado de testadores. Posteriormente, o acesso será ampliado por meio do programa Daybreak Blue, com foco também em aplicações defensivas.
A empresa também afirma ter treinado o modelo para recusar com maior frequência solicitações de cibersegurança consideradas perigosas. Nos testes de tentativas de contornar essas restrições, o Astra recusou 91,5% dos pedidos, contra 59% do GPT-5.6 Sol.
Além disso, a OpenAI implementou monitoramento adicional para detectar possíveis ações não autorizadas do próprio modelo e interromper atividades consideradas de alto risco.
IA também será usada na defesa
Apesar dos riscos, a OpenAI afirma que modelos com capacidades cibernéticas avançadas podem ser utilizados para fortalecer a segurança digital.
A empresa pretende trabalhar com pesquisadores, governos e organizações especializadas para testar o Astra e desenvolver aplicações capazes de identificar e corrigir vulnerabilidades antes que sejam exploradas por invasores.
A companhia reconhece, porém, que mecanismos adicionais de segurança podem interromper ou atrasar algumas atividades legítimas. Por isso, os controles deverão continuar sendo calibrados à medida que o modelo for disponibilizado a mais usuários.