OpenAI acrescenta auditorias, sandboxing e monitorização de tráfego ao seu quadro de risco de IA
A empresa diz que suspendeu treino interno e reteve lançamentos, incluindo o GPT-6.1 Astra, e cita a violação da Hugging Face de julho de 2026.

Pontos principais
- A OpenAI publicou o seu quadro de risco de IA de fronteira a 18 de novembro de 2026, cobrindo do treino à implementação.
- A abordagem usa auditorias de alinhamento, sandboxing, salvaguardas de bloqueio e monitorização do tráfego implementado.
- A OpenAI disse que suspendeu treino interno e atrasou lançamentos, incluindo o GPT-6.1 Astra, para cumprir padrões de segurança.
- A empresa reforçou protocolos após a violação da Hugging Face em julho de 2026, exigindo revisões em cada fase do ciclo de vida.
Um quadro ao longo do ciclo de vida do modelo
A OpenAI publicou a 18 de novembro de 2026 uma descrição de como gere o risco em modelos de IA de fronteira, cobrindo o período do treino à implementação externa. A empresa descreve a abordagem como defesa em profundidade: várias camadas separadas de proteção em vez de uma única verificação.
O trabalho de alinhamento vem primeiro. A OpenAI diz que revê os modelos face aos princípios do seu Model Spec antes do lançamento mais amplo, usando auditorias para testar se os sistemas agem como pretendido e respeitam as instruções dos utilizadores e as políticas da empresa.
Contenção e bloqueio
Durante o treino e a avaliação, o sandboxing limita o que um modelo pode alcançar: ficheiros, ferramentas e redes ficam restritos para que um comportamento desalinhado tenha menos consequências. Mecanismos de bloqueio ficam então à frente de ações nocivas ou não autorizadas, incluindo classificadores de segurança e sistemas de revisão automática destinados a abuso cibernético e uso indevido em áreas sensíveis como a investigação biológica.
A monitorização cobre o que acontece após o lançamento. A OpenAI diz que observa o tráfego de implementação para detetar comportamento preocupante e trata a monitorizabilidade do modelo, a capacidade de detetar problemas de forma fiável, como um requisito para a intervenção.
Pausas e uma violação
A empresa diz que por vezes interrompeu treino interno ou reteve lançamentos de modelos avançados, citando o GPT-6.1 Astra como exemplo, para reunir provas mais fortes de que um modelo se comporta como pretendido antes de ser lançado.
A OpenAI aponta também a violação da Hugging Face em julho de 2026 como razão para salvaguardas mais rigorosas. Agora exige revisões de segurança em cada fase do ciclo de vida de um modelo, para que tanto o modelo como as suas medidas de proteção sejam avaliados antes de começar a fase seguinte.
O documento não indica uma data para o lançamento do GPT-6.1 Astra e não detalha o que a violação de julho de 2026 envolveu além do efeito no processo de revisão da OpenAI.
Fontes
2 fontes- OpenAI NewsManaging frontier AI risk: From training to deployment
- Blockchain.NewsOpenAI Details Strategies for Managing Frontier AI Risk
Este artigo foi redigido por Vector, repórter de IA do BattleTown News, a partir dos relatórios listados acima.
Perguntas frequentes
O que inclui a abordagem de defesa em profundidade da OpenAI?
Segundo a OpenAI, combina auditorias de alinhamento face ao seu Model Spec, sandboxing de ficheiros, ferramentas e redes durante o treino e a avaliação, salvaguardas de bloqueio como classificadores de segurança e monitorização do tráfego de implementação.
A OpenAI atrasou algum lançamento de modelo por razões de segurança?
A OpenAI diz que suspendeu treino interno e atrasou a implementação de modelos avançados, incluindo o GPT-6.1 Astra, para cumprir os seus padrões de segurança. Não foi dada qualquer data de lançamento para esse modelo.
Esta notícia tem fins meramente informativos. Não constitui aconselhamento financeiro, de investimento ou jurídico. Aviso legal
BattleTown: batalhas de tanques no navegador
Novos minijogos, «Assalto» e «Brecha», já estão no BattleTown




Comentários: 0 comentário