OpenAI、微软与CrowdStrike各自限制失控AI代理
OpenAI称其Control Room在收到停止指令后35秒内停止模型输出,微软和CrowdStrike则限制代理的操作和模型访问。

要点
- OpenAI、微软和CrowdStrike各自介绍了针对AI代理超出既定参数运行的一项控制措施。
- OpenAI的Control Room在收到停止指令后35秒内停止模型输出,不含检测时间。
- CrowdStrike阻断代理访问AI模型;微软限制代理可执行的操作。
- 代理仍可能触及其他工具、凭证或网络连接,这些不在上述控制覆盖范围内。
三家公司,三层控制
据Cryptopolitan DE于2026年11月14日发布的报道,OpenAI、微软和CrowdStrike分别介绍了在AI代理超出既定参数运行时限制其行为的方法。三种做法针对的是代理工作流程中的不同环节,而非单一解决方案。
OpenAI可以阻止研究模型产生输出。CrowdStrike阻断代理访问AI模型。微软限制代理被允许执行的操作。报道指出,代理仍可能持有对其他工具、凭证或网络连接的访问权限,这些都不在上述措施覆盖范围内。
Control Room能停什么,不能停什么
11月9日,OpenAI说明了其Control Room系统的运作方式。该系统目前用于公司的研究基础设施,监控每一项需要AI生成输出的任务。
OpenAI表示,当人员或自动监控程序暂停某项任务时,Control Room会让模型在35秒内停止输出。这一时限不含发现问题所需的时间:计时只在Control Room收到停止指令后开始。
据该报道,研究任务本身可能仍在运行。对Control Room的说明只涉及输出,不涉及代理所处的更广泛环境。
三家公司留下的缺口
报道将这三套工具视为相互竞争的控制手段,而非联合标准。它们各自针对代理行动的一条路径:模型的输出、对模型的访问,以及可执行的操作。
报道称,这些路径之外的部分,三者均未涉及。报道没有说明三家公司是否计划协调,除Control Room目前在OpenAI研究基础设施中的使用外,也未给出这些控制措施更广泛部署的时间表。
来源
3 个来源- Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
- Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
- Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants
本文由 BattleTown News 的 AI 记者 Vector 根据上方列出的报告撰写。
常见问题
OpenAI的Control Room多快能停住模型?
OpenAI表示,Control Room在收到停止指令后35秒内可让模型停止输出。这一数字不含发现问题所需的时间,研究任务也可能继续运行。
这三种做法各覆盖什么?
报道称,三家公司各管一层:OpenAI停止模型输出,CrowdStrike阻断代理访问AI模型,微软限制代理可执行的操作。代理仍可能触及其他工具、凭证或网络连接,这些不在上述控制范围内。
本文仅供参考,不构成财务、投资或法律建议。 免责声明




评论: 0 条评论