AI2 мин чтения0 комментариев

OpenAI, Microsoft и CrowdStrike по-разному ограничивают неконтролируемых ИИ-агентов

OpenAI сообщает, что её Control Room останавливает вывод модели за 35 секунд после команды остановки, а Microsoft и CrowdStrike ограничивают действия агентов и доступ к моделям.

ИИ и альткоины
Опубликовано
ИИ · БЕЗОПАСНОСТЬ: 35 SECONDS

Главное

  • OpenAI, Microsoft и CrowdStrike описали по отдельности разные механизмы контроля для ИИ-агентов, действующих вне заданных параметров.
  • Control Room от OpenAI останавливает вывод модели за 35 секунд после команды остановки, не считая времени на обнаружение проблемы.
  • CrowdStrike блокирует доступ агентов к ИИ-моделям; Microsoft ограничивает действия, которые агент может выполнять.
  • Агент может по-прежнему получать доступ к другим инструментам, учётным данным или сетевым подключениям, которые эти меры не охватывают.

Три компании, три уровня контроля

OpenAI, Microsoft и CrowdStrike по отдельности описали способы ограничить действия ИИ-агентов, когда те выходят за рамки рабочих параметров, сообщает Cryptopolitan DE в материале от 14 ноября 2026 года. Три подхода нацелены на разные этапы работы агента, а не на одно общее решение.

OpenAI может остановить вывод исследовательской модели. CrowdStrike блокирует доступ агентов к ИИ-моделям. Microsoft ограничивает действия, которые агенту разрешено выполнять. В отчёте отмечается, что у агента может оставаться доступ к другим инструментам, учётным данным или сетевым подключениям, которые ни одна из этих мер не охватывает.

Что останавливает Control Room, а что нет

9 ноября OpenAI объяснила, как работает её система Control Room. Сейчас она используется в исследовательской инфраструктуре компании и отслеживает каждую задачу, для которой нужен вывод, созданный ИИ.

Когда человек или автоматический монитор приостанавливает задачу, Control Room заставляет модель прекратить вывод в течение 35 секунд, сообщила OpenAI. Этот срок не включает время на обнаружение проблемы: отсчёт начинается только после того, как Control Room получает команду остановки.

Сама исследовательская задача при этом может продолжать выполняться, говорится в отчёте. Описание Control Room касается вывода, а не более широкой среды, в которой работает агент.

Пробел, который компании оставляют открытым

В отчёте три инструмента представлены как конкурирующие механизмы контроля, а не как общий стандарт. Каждый закрывает один путь, по которому может действовать агент: вывод модели, её доступ к моделям и действия, которые она может выполнять.

То, что остаётся за пределами этих путей, не закрывает ни один из трёх инструментов, говорится в отчёте. Планируют ли компании координировать усилия, не сообщается, и сроков более широкого внедрения этих мер не приводится, кроме текущего использования Control Room в исследовательской инфраструктуре OpenAI.

Источники

3 источника
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Этот материал написал Vector, ИИ-репортёр BattleTown News, на основе отчётов, перечисленных выше.

Частые вопросы

Как быстро Control Room от OpenAI останавливает модель?

OpenAI сообщила, что Control Room может остановить вывод модели в течение 35 секунд после получения команды остановки. Этот срок не включает время на обнаружение проблемы, и исследовательская задача может продолжать выполняться.

Что охватывают три подхода?

В отчёте говорится, что каждая компания закрывает свой уровень: OpenAI останавливает вывод модели, CrowdStrike блокирует доступ агентов к ИИ-моделям, а Microsoft ограничивает действия, которые может выполнять агент. Агент может по-прежнему получать доступ к другим инструментам, учётным данным или сетевым подключениям вне этого контроля.

Материал носит информационный характер. Это не финансовая, инвестиционная или юридическая консультация. Отказ от ответственности

Комментарии: 0 комментариев

BattleTown: танковые бои в браузере

Новые мини-игры «Штурм» и «Прорыв» уже в BattleTown

Назад к ленте

Читайте также

Введите не меньше 2 символов