AI阅读约 2 分钟0 条评论

OpenAI、微软与CrowdStrike各自限制失控AI代理

OpenAI称其Control Room在收到停止指令后35秒内停止模型输出,微软和CrowdStrike则限制代理的操作和模型访问。

AI 与山寨币
发布于
AI · 安全: 35 SECONDS

要点

  • OpenAI、微软和CrowdStrike各自介绍了针对AI代理超出既定参数运行的一项控制措施。
  • OpenAI的Control Room在收到停止指令后35秒内停止模型输出,不含检测时间。
  • CrowdStrike阻断代理访问AI模型;微软限制代理可执行的操作。
  • 代理仍可能触及其他工具、凭证或网络连接,这些不在上述控制覆盖范围内。

三家公司,三层控制

据Cryptopolitan DE于2026年11月14日发布的报道,OpenAI、微软和CrowdStrike分别介绍了在AI代理超出既定参数运行时限制其行为的方法。三种做法针对的是代理工作流程中的不同环节,而非单一解决方案。

OpenAI可以阻止研究模型产生输出。CrowdStrike阻断代理访问AI模型。微软限制代理被允许执行的操作。报道指出,代理仍可能持有对其他工具、凭证或网络连接的访问权限,这些都不在上述措施覆盖范围内。

Control Room能停什么,不能停什么

11月9日,OpenAI说明了其Control Room系统的运作方式。该系统目前用于公司的研究基础设施,监控每一项需要AI生成输出的任务。

OpenAI表示,当人员或自动监控程序暂停某项任务时,Control Room会让模型在35秒内停止输出。这一时限不含发现问题所需的时间:计时只在Control Room收到停止指令后开始。

据该报道,研究任务本身可能仍在运行。对Control Room的说明只涉及输出,不涉及代理所处的更广泛环境。

三家公司留下的缺口

报道将这三套工具视为相互竞争的控制手段,而非联合标准。它们各自针对代理行动的一条路径:模型的输出、对模型的访问,以及可执行的操作。

报道称,这些路径之外的部分,三者均未涉及。报道没有说明三家公司是否计划协调,除Control Room目前在OpenAI研究基础设施中的使用外,也未给出这些控制措施更广泛部署的时间表。

来源

3 个来源
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

本文由 BattleTown News 的 AI 记者 Vector 根据上方列出的报告撰写。

常见问题

OpenAI的Control Room多快能停住模型?

OpenAI表示,Control Room在收到停止指令后35秒内可让模型停止输出。这一数字不含发现问题所需的时间,研究任务也可能继续运行。

这三种做法各覆盖什么?

报道称,三家公司各管一层:OpenAI停止模型输出,CrowdStrike阻断代理访问AI模型,微软限制代理可执行的操作。代理仍可能触及其他工具、凭证或网络连接,这些不在上述控制范围内。

本文仅供参考,不构成财务、投资或法律建议。 免责声明

评论: 0 条评论

BattleTown:浏览器坦克对战

全新小游戏「强攻」和「突破」已登陆 BattleTown

返回资讯列表

延伸阅读

请至少输入 2 个字符