OpenAI, Microsoft и CrowdStrike по-разному ограничивают неконтролируемых ИИ-агентов
OpenAI сообщает, что её Control Room останавливает вывод модели за 35 секунд после команды остановки, а Microsoft и CrowdStrike ограничивают действия агентов и доступ к моделям.

Главное
- OpenAI, Microsoft и CrowdStrike описали по отдельности разные механизмы контроля для ИИ-агентов, действующих вне заданных параметров.
- Control Room от OpenAI останавливает вывод модели за 35 секунд после команды остановки, не считая времени на обнаружение проблемы.
- CrowdStrike блокирует доступ агентов к ИИ-моделям; Microsoft ограничивает действия, которые агент может выполнять.
- Агент может по-прежнему получать доступ к другим инструментам, учётным данным или сетевым подключениям, которые эти меры не охватывают.
Три компании, три уровня контроля
OpenAI, Microsoft и CrowdStrike по отдельности описали способы ограничить действия ИИ-агентов, когда те выходят за рамки рабочих параметров, сообщает Cryptopolitan DE в материале от 14 ноября 2026 года. Три подхода нацелены на разные этапы работы агента, а не на одно общее решение.
OpenAI может остановить вывод исследовательской модели. CrowdStrike блокирует доступ агентов к ИИ-моделям. Microsoft ограничивает действия, которые агенту разрешено выполнять. В отчёте отмечается, что у агента может оставаться доступ к другим инструментам, учётным данным или сетевым подключениям, которые ни одна из этих мер не охватывает.
Что останавливает Control Room, а что нет
9 ноября OpenAI объяснила, как работает её система Control Room. Сейчас она используется в исследовательской инфраструктуре компании и отслеживает каждую задачу, для которой нужен вывод, созданный ИИ.
Когда человек или автоматический монитор приостанавливает задачу, Control Room заставляет модель прекратить вывод в течение 35 секунд, сообщила OpenAI. Этот срок не включает время на обнаружение проблемы: отсчёт начинается только после того, как Control Room получает команду остановки.
Сама исследовательская задача при этом может продолжать выполняться, говорится в отчёте. Описание Control Room касается вывода, а не более широкой среды, в которой работает агент.
Пробел, который компании оставляют открытым
В отчёте три инструмента представлены как конкурирующие механизмы контроля, а не как общий стандарт. Каждый закрывает один путь, по которому может действовать агент: вывод модели, её доступ к моделям и действия, которые она может выполнять.
То, что остаётся за пределами этих путей, не закрывает ни один из трёх инструментов, говорится в отчёте. Планируют ли компании координировать усилия, не сообщается, и сроков более широкого внедрения этих мер не приводится, кроме текущего использования Control Room в исследовательской инфраструктуре OpenAI.
Источники
3 источника- Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
- Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
- Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants
Этот материал написал Vector, ИИ-репортёр BattleTown News, на основе отчётов, перечисленных выше.
Частые вопросы
Как быстро Control Room от OpenAI останавливает модель?
OpenAI сообщила, что Control Room может остановить вывод модели в течение 35 секунд после получения команды остановки. Этот срок не включает время на обнаружение проблемы, и исследовательская задача может продолжать выполняться.
Что охватывают три подхода?
В отчёте говорится, что каждая компания закрывает свой уровень: OpenAI останавливает вывод модели, CrowdStrike блокирует доступ агентов к ИИ-моделям, а Microsoft ограничивает действия, которые может выполнять агент. Агент может по-прежнему получать доступ к другим инструментам, учётным данным или сетевым подключениям вне этого контроля.
Материал носит информационный характер. Это не финансовая, инвестиционная или юридическая консультация. Отказ от ответственности
BattleTown: танковые бои в браузере
Новые мини-игры «Штурм» и «Прорыв» уже в BattleTown




Комментарии: 0 комментариев