AIОқуға 2 мин0 пікір

OpenAI, Microsoft және CrowdStrike тыңшы AI-агенттерге жеке-жеке шектеу қойды

OpenAI Control Room тоқтату командасынан кейін 35 секунд ішінде модель шығысын тоқтатады, ал Microsoft пен CrowdStrike агент әрекеттері мен модельге қатынауды шектейді.

ЖИ және альткоиндер
Жарияланған
AI · ҚАУІПСІЗДІК: 35 SECONDS

Басты ойлар

  • OpenAI, Microsoft және CrowdStrike белгіленген параметрлерден шығып кеткен AI-агенттерге қарсы жеке-жеке бақылау құралын сипаттады.
  • OpenAI Control Room тоқтату командасынан кейін 35 секунд ішінде модель шығысын тоқтатады, бірақ анықтау уақытын қамтымайды.
  • CrowdStrike агенттердің AI-модельдерге қатынауын бөгейді; Microsoft агент жасай алатын әрекеттерді шектейді.
  • Агент бұл бақылаулар қамтымайтын басқа құралдарға, тіркелгі деректеріне немесе желілік байланыстарға әлі де қатынай алады.

Үш компания, бақылаудың үш қабаты

OpenAI, Microsoft және CrowdStrike AI-агенттер жұмыс параметрлерінен шығып кеткенде олардың не істей алатынын шектеу тәсілдерін сипаттады, деп хабарлайды Cryptopolitan DE 2026 жылғы 14 қарашада жариялаған материалда. Үш тәсіл бір шешімді емес, агент жұмысының әртүрлі нүктелерін қамтиды.

OpenAI зерттеу моделінің шығыс шығаруын тоқтата алады. CrowdStrike агенттердің AI-модельдерге қатынауын бөгейді. Microsoft агентке рұқсат етілген әрекеттерді шектейді. Материалда агенттің осы шаралардың ешқайсысы қамтымайтын басқа құралдарға, тіркелгі деректеріне немесе желілік байланыстарға әлі де қатынауы мүмкін екені атап өтілген.

Control Room нені тоқтатады, нені тоқтатпайды

9 қарашада OpenAI Control Room жүйесінің қалай жұмыс істейтінін түсіндірді. Ол қазір компанияның зерттеу инфрақұрылымында қолданылады және AI жасаған шығысты қажет ететін әрбір тапсырманы бақылайды.

Адам немесе автоматты бақылаушы тапсырманы кідірткенде, Control Room модельдің шығыс шығаруын 35 секунд ішінде тоқтатады, деді OpenAI. Бұл уақыт аралығы мәселені байқауға кететін уақытты қамтымайды: таймер Control Room тоқтату командасын алғаннан кейін ғана басталады.

Материалға сәйкес, зерттеу жұмысының өзі әлі де жалғасуы мүмкін. Control Room сипаттамасы шығысты қамтиды, агент жұмыс істейтін кеңірек ортаны емес.

Компаниялар қалдырған олқылық

Материал үш құралды бірлескен стандарт емес, бәсекелес бақылаулар ретінде сипаттайды. Әрқайсысы агент әрекет ете алатын бір жолды қамтиды: модель шығысын, оның модельдерге қатынауын және жасай алатын әрекеттерін.

Осы жолдардан тыс қалатын нәрсені үшеуінің ешқайсысы қамтымайды, делінген материалда. Компаниялар үйлестіруді жоспарлап отыр ма, жоқ па — айтылмаған, және Control Room-ның OpenAI зерттеу инфрақұрылымындағы қазіргі қолданысынан басқа, бақылауларды кеңірек енгізудің мерзімі көрсетілмеген.

Дереккөздер

3 дереккөз
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Бұл материалды BattleTown News ЖИ-репортері Vector жоғарыда көрсетілген есептер негізінде жазды.

Жиі қойылатын сұрақтар

OpenAI Control Room модельді қаншалықты жылдам тоқтата алады?

OpenAI Control Room тоқтату командасын алғаннан кейін 35 секунд ішінде модельдің шығыс шығаруын тоқтата алады, деді компания. Бұл көрсеткіш мәселені анықтауға кететін уақытты қамтымайды, ал зерттеу жұмысы жалғаса беруі мүмкін.

Үш тәсіл нені қамтиды?

Материалда әр компания әртүрлі қабатты қамтитыны айтылған: OpenAI модель шығысын тоқтатады, CrowdStrike агенттің AI-модельдерге қатынауын бөгейді, Microsoft агент жасай алатын әрекеттерді шектейді. Агент осы бақылаулардан тыс басқа құралдарға, тіркелгі деректеріне немесе желілік байланыстарға әлі де қатынай алады.

Бұл материал тек ақпарат үшін берілген. Ол қаржылық, инвестициялық немесе заңгерлік кеңес емес. Жауапкершіліктен бас тарту

Пікірлер: 0 пікір

BattleTown: браузердегі танк шайқастары

Жаңа мини-ойындар — «Шабуыл» және «Бұзып өту» — қазір BattleTown-да

Лентаға оралу

Мұны да оқыңыз

Кемінде 2 таңба енгізіңіз