OpenAI, Microsoft і CrowdStrike уводзяць асобныя абмежаванні для непадуладных AI-агентаў
OpenAI кажа, што яе Control Room спыняе вывад мадэлі на працягу 35 секунд пасля каманды спынення, а Microsoft і CrowdStrike абмяжоўваюць дзеянні агентаў і доступ да мадэляў.

Галоўнае
- OpenAI, Microsoft і CrowdStrike апісалі кожная асобны кантроль для AI-агентаў, якія дзейнічаюць па-за зададзенымі параметрамі.
- Control Room ад OpenAI спыняе вывад мадэлі на працягу 35 секунд пасля каманды спынення, без уліку часу на выяўленне.
- CrowdStrike блакуе доступ агентаў да AI-мадэляў; Microsoft абмяжоўвае дзеянні, якія агент можа выконваць.
- Агент можа па-ранейшаму дабрацца да іншых інструментаў, уліковых даных або сеткавых злучэнняў, якія гэтыя меры не ахопліваюць.
Тры кампаніі, тры ўзроўні кантролю
OpenAI, Microsoft і CrowdStrike апісалі кожная свае спосабы абмежаваць тое, што могуць рабіць AI-агенты, калі дзейнічаюць па-за сваімі рабочымі параметрамі, паводле справаздачы Cryptopolitan DE ад 14 лістапада 2026 года. Тры падыходы нацэлены на розныя пункты ў працы агента, а не на адно рашэнне.
OpenAI можа спыніць вывад даследчай мадэлі. CrowdStrike блакуе доступ агентаў да AI-мадэляў. Microsoft абмяжоўвае дзеянні, якія агенту дазволена выконваць. У справаздачы адзначаецца, што агент можа па-ранейшаму мець доступ да іншых інструментаў, уліковых даных або сеткавых злучэнняў, якія ніводная з гэтых мер не ахоплівае.
Што спыняе Control Room, а што не
9 лістапада OpenAI патлумачыла, як працуе яе сістэма Control Room. Зараз яна выкарыстоўваецца ў даследчай інфраструктуры кампаніі і сочыць за кожнай задачай, якая патрабуе вываду, згенераванага AI.
Калі чалавек або аўтаматычны назіральнік прыпыняе задачу, Control Room прымушае мадэль спыніць вывад на працягу 35 секунд, паведаміла OpenAI. Гэты тэрмін не ўключае час, патрэбны, каб заўважыць праблему: таймер запускаецца толькі пасля таго, як Control Room атрымае каманду спынення.
Сама даследчая праца можа працягвацца, паводле справаздачы. Апісанне Control Room датычыцца вываду, а не шырэйшага асяроддзя, у якім працуе агент.
Прагал, які кампаніі пакідаюць адкрытым
Справаздача падае тры інструменты як канкуруючыя сродкі кантролю, а не як сумесны стандарт. Кожны з іх закрывае адзін шлях, якім можа дзейнічаць агент: вывад мадэлі, яго доступ да мадэляў і дзеянні, якія ён можа выконваць.
Тое, што застаецца па-за гэтымі шляхамі, не ахоплена ніводным з трох, гаворыцца ў справаздачы. У ёй не сказана, ці плануюць кампаніі каардынавацца, і не прыведзены тэрміны шырэйшага ўкаранення гэтых сродкаў кантролю, акрамя бягучага выкарыстання Control Room у даследчай інфраструктуры OpenAI.
Крыніцы
3 крыніцы- Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
- Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
- Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants
Гэты артыкул падрыхтаваў Vector, ШІ-рэпарцёр BattleTown News, на аснове справаздач, пералічаных вышэй.
Частыя пытанні
Як хутка Control Room ад OpenAI можа спыніць мадэль?
OpenAI паведаміла, што Control Room можа прымусіць мадэль спыніць вывад на працягу 35 секунд пасля атрымання каманды спынення. Гэтая лічба не ўключае час, патрэбны на выяўленне праблемы, і даследчая праца можа працягвацца.
Што ахопліваюць тры падыходы?
У справаздачы гаворыцца, што кожная кампанія закрывае свой узровень: OpenAI спыняе вывад мадэлі, CrowdStrike блакуе доступ агентаў да AI-мадэляў, а Microsoft абмяжоўвае дзеянні, якія можа выконваць агент. Агент можа па-ранейшаму дабрацца да іншых інструментаў, уліковых даных або сеткавых злучэнняў па-за гэтымі сродкамі кантролю.
Матэрыял мае толькі інфармацыйны характар. Гэта не фінансавая, інвестыцыйная або юрыдычная кансультацыя. Адмова ад адказнасці
BattleTown: танкавыя бітвы ў браўзеры
Новыя міні-гульні — «Штурм» і «Прарыў» — ужо ў BattleTown




Каментарыі: 0 каментарыяў