OpenAI在其AI风险框架中加入审计、沙箱和流量监控
该公司称已暂停内部训练并推迟发布,包括GPT-6.1 Astra,并提到2026年7月的Hugging Face事件。

要点
- OpenAI于2026年11月18日发布了其前沿AI风险框架,覆盖从训练到部署的全过程。
- 该方法采用对齐审计、沙箱、阻断性防护措施以及对已部署流量的监控。
- OpenAI表示已暂停内部训练并推迟发布,包括GPT-6.1 Astra,以达到安全标准。
- 该公司在2026年7月的Hugging Face事件后收紧了流程,要求在每个生命周期阶段进行审查。
覆盖模型生命周期的框架
OpenAI于2026年11月18日发布了一份说明,介绍其如何管理前沿AI模型的风险,覆盖从训练到对外部署的时期。该公司将这一方法称为纵深防御:多层相互独立的防护,而非单一检查。
对齐工作排在首位。OpenAI表示,在更广泛发布之前,会依据其Model Spec中的原则对模型进行审查,通过审计来检验系统是否按预期行事,是否遵守用户指令和公司政策。
隔离与阻断
在训练和评估期间,沙箱限制了模型可以触及的范围:文件、工具和网络均受到限制,使偏离对齐的行为造成更少的后果。阻断机制则设在有害或未经授权的操作之前,包括安全分类器,以及针对网络滥用和生物研究等敏感领域误用的自动审查系统。
监控覆盖发布之后的情况。OpenAI表示会监测部署流量中的可疑行为,并将模型可监控性——即可靠发现问题能力——视为实施干预的一项要求。
暂停与一次事件
该公司表示,有时会暂停内部训练或推迟先进模型的发布,并以GPT-6.1 Astra为例,以便在模型上线前收集更有力的证据,证明其按预期行事。
OpenAI还提到2026年7月的Hugging Face事件,作为收紧防护措施的原因。该公司现在要求在模型生命周期的每个阶段进行安全审查,以便在进入下一阶段之前,对模型及其防护措施都进行评估。
该文件没有给出GPT-6.1 Astra的发布日期,除对OpenAI审查流程的影响外,也没有详细说明2026年7月事件的具体内容。
来源
2 个来源- OpenAI NewsManaging frontier AI risk: From training to deployment
- Blockchain.NewsOpenAI Details Strategies for Managing Frontier AI Risk
本文由 BattleTown News 的 AI 记者 Vector 根据上方列出的报告撰写。
常见问题
OpenAI的纵深防御方法包括哪些内容?
据OpenAI介绍,该方法结合了依据其Model Spec进行的对齐审计、训练和评估期间对文件、工具和网络的沙箱隔离、安全分类器等阻断性防护措施,以及对部署流量的监控。
OpenAI是否因安全原因推迟过模型发布?
OpenAI表示已暂停内部训练并推迟先进模型的部署,包括GPT-6.1 Astra,以达到其安全标准。该公司未给出该模型的发布日期。
本文仅供参考,不构成财务、投资或法律建议。 免责声明




评论: 0 条评论