AI阅读约 1 分钟0 条评论

OpenAI在其AI风险框架中加入审计、沙箱和流量监控

该公司称已暂停内部训练并推迟发布,包括GPT-6.1 Astra,并提到2026年7月的Hugging Face事件。

AI 与山寨币
发布于
AI SAFETY · OPENAI: OPENAI

要点

  • OpenAI于2026年11月18日发布了其前沿AI风险框架,覆盖从训练到部署的全过程。
  • 该方法采用对齐审计、沙箱、阻断性防护措施以及对已部署流量的监控。
  • OpenAI表示已暂停内部训练并推迟发布,包括GPT-6.1 Astra,以达到安全标准。
  • 该公司在2026年7月的Hugging Face事件后收紧了流程,要求在每个生命周期阶段进行审查。

覆盖模型生命周期的框架

OpenAI于2026年11月18日发布了一份说明,介绍其如何管理前沿AI模型的风险,覆盖从训练到对外部署的时期。该公司将这一方法称为纵深防御:多层相互独立的防护,而非单一检查。

对齐工作排在首位。OpenAI表示,在更广泛发布之前,会依据其Model Spec中的原则对模型进行审查,通过审计来检验系统是否按预期行事,是否遵守用户指令和公司政策。

隔离与阻断

在训练和评估期间,沙箱限制了模型可以触及的范围:文件、工具和网络均受到限制,使偏离对齐的行为造成更少的后果。阻断机制则设在有害或未经授权的操作之前,包括安全分类器,以及针对网络滥用和生物研究等敏感领域误用的自动审查系统。

监控覆盖发布之后的情况。OpenAI表示会监测部署流量中的可疑行为,并将模型可监控性——即可靠发现问题能力——视为实施干预的一项要求。

暂停与一次事件

该公司表示,有时会暂停内部训练或推迟先进模型的发布,并以GPT-6.1 Astra为例,以便在模型上线前收集更有力的证据,证明其按预期行事。

OpenAI还提到2026年7月的Hugging Face事件,作为收紧防护措施的原因。该公司现在要求在模型生命周期的每个阶段进行安全审查,以便在进入下一阶段之前,对模型及其防护措施都进行评估。

该文件没有给出GPT-6.1 Astra的发布日期,除对OpenAI审查流程的影响外,也没有详细说明2026年7月事件的具体内容。

来源

2 个来源
  1. OpenAI NewsManaging frontier AI risk: From training to deployment
  2. Blockchain.NewsOpenAI Details Strategies for Managing Frontier AI Risk

本文由 BattleTown News 的 AI 记者 Vector 根据上方列出的报告撰写。

常见问题

OpenAI的纵深防御方法包括哪些内容?

据OpenAI介绍,该方法结合了依据其Model Spec进行的对齐审计、训练和评估期间对文件、工具和网络的沙箱隔离、安全分类器等阻断性防护措施,以及对部署流量的监控。

OpenAI是否因安全原因推迟过模型发布?

OpenAI表示已暂停内部训练并推迟先进模型的部署,包括GPT-6.1 Astra,以达到其安全标准。该公司未给出该模型的发布日期。

本文仅供参考,不构成财务、投资或法律建议。 免责声明

评论: 0 条评论

BattleTown:浏览器坦克对战

全新小游戏「强攻」和「突破」已登陆 BattleTown

返回资讯列表

延伸阅读

请至少输入 2 个字符