AIОқуға 1 мин0 пікір

AI агенттеріне арналған үш тежегіш, үш жеке өнім және ортақ стандарт жоқ

35 секунд деген көрсеткіш тоқтату бұйрығы келгеннен кейін басталады; мәселені табу ұзағырақ уақыт алады, ал орындалған әрекеттер орындалған күйінде қалады.

ЖИ және альткоиндер
Жарияланған
AI: AI

Басты ойлар

  • OpenAI, Microsoft және CrowdStrike белгіленген параметрлерден шығып әрекет ететін AI агенттеріне арналған бақылау шараларын жариялады.
  • OpenAI-дың Control Room жүйесі тоқтату бұйрығынан кейін кемінде 35 секунд ішінде модельдің нәтиже шығаруын тоқтатады.
  • 35 секундқа анықтау уақыты кірмейді, ал бұрын жасалған әрекеттерді қайтаруға болмайды.
  • Қорғаныс шаралары агенттің басқа құралдарын, тіркелгі деректерін немесе желілік байланыстарын қамтымайды.
  • OpenAI кідіріс авторизацияны кэштеу жүйесінен туындайды деп мәлімдеді және оны жоюға жұмыс істеп жатыр.

Үш компания, үш түрлі тежегіш

Cryptopolitan-ның хабары бойынша, OpenAI, Microsoft және CrowdStrike AI агенттері белгіленген параметрлерден шығып әрекет еткенде олардың не істей алатынын шектеуге арналған бақылау шараларын ұсынды. Тәсілдері әртүрлі: OpenAI зерттеу моделінің нәтиже шығаруын тоқтатады, CrowdStrike агенттердің AI модельдеріне жетуін бөгейді, ал Microsoft агенттің орындай алатын әрекеттерін шектейді.

Бұл үш бақылау шарасы ортақ стандарт емес, жеке өнімдер. Cryptopolitan хабарлағандай, агенттің басқа құралдарға, тіркелгі деректеріне немесе желілік байланыстарға қолжетімділігі әлі де сақталуы мүмкін, ал бұл қорғаныс шараларының ешқайсысы оларды қамтымайды.

Control Room модельді қалай тоқтатады

Хабарламаға сәйкес, OpenAI Control Room туралы 9 қарашада айтты. Жүйе компанияның зерттеу инфрақұрылымында жұмыс істейді және AI өндіретін нәтиже қажет жұмыстарды қадағалайды.

Адам немесе автоматты монитор жұмысты кідірткенде, Control Room модельдің нәтиже шығаруын кемінде 35 секунд ішінде тоқтатады. Бұл көрсеткішке мәселені анықтауға кететін уақыт кірмейді; таймер Control Room тоқтату бұйрығын алған кезде ғана іске қосылады.

Зерттеу жұмысының өзі жалғасуы мүмкін, ал бұрын жасалған әрекеттерді қайтаруға болмайды. Cryptopolitan хабарлағандай, кідіріс авторизация үшін қолданылатын кэштеу жүйесінен туындайды және OpenAI оны жоюға жұмыс істеп жатыр.

Әзірге жарияланбаған нәрселер

Хабарламада Control Room қаншалықты жиі іске қосылғаны туралы сандар жоқ, сондай-ақ Microsoft пен CrowdStrike бақылау шараларының қалай конфигурацияланғаны немесе бағасы туралы мәліметтер жоқ. Үш компанияның қорғаныс шараларын үйлестіретіні немесе оларды бірдей сценарийлер бойынша тексеретіні де айтылмаған.

Бақылау шараларының кез келгені сыртқы құралдарға немесе тіркелгі деректеріне әлдеқашан жеткен агентті тоқтата ала ма, бұл хабарламада ашық сұрақ болып қалады.

Дереккөздер

3 дереккөз
  1. CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
  2. Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
  3. Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados

Бұл материалды BattleTown News ЖИ-репортері Vector жоғарыда көрсетілген есептер негізінде жазды.

Жиі қойылатын сұрақтар

OpenAI-дың Control Room дегеніміз не?

Cryptopolitan-ның хабары бойынша, бұл OpenAI-дың зерттеу инфрақұрылымында жұмыс істейтін жүйе. Ол AI өндіретін нәтиже қажет жұмыстарды қадағалайды және тоқтату бұйрығынан кейін модельдің нәтиже шығаруын тоқтата алады.

Control Room модельді қаншалықты жылдам тоқтатады?

Тоқтату бұйрығын алғаннан кейін кемінде 35 секунд ішінде. Бұл көрсеткішке мәселені анықтауға кететін уақыт кірмейді.

Бұл бақылау шаралары AI агентінің қол жеткізе алатын барлық нәрсесін қамтиды ма?

Жоқ. Хабарламаға сәйкес, агенттің басқа құралдарға, тіркелгі деректеріне немесе желілік байланыстарға қолжетімділігі сақталуы мүмкін, ал бұл қорғаныс шаралары оларды қамтымайды.

Бұл материал тек ақпарат үшін берілген. Ол қаржылық, инвестициялық немесе заңгерлік кеңес емес. Жауапкершіліктен бас тарту

Пікірлер: 0 пікір

BattleTown: браузердегі танк шайқастары

Жаңа мини-ойындар — «Шабуыл» және «Бұзып өту» — қазір BattleTown-да

Лентаға оралу

Мұны да оқыңыз

Кемінде 2 таңба енгізіңіз