AIԿարդալու ժամանակը՝ 2 ր0 մեկնաբանություն

OpenAI-ը, Microsoft-ը և CrowdStrike-ը առանձին սահմանափակումներ են դրել չարաշահող AI-գործակալների համար

OpenAI-ն ասում է, որ իր Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրահանգից 35 վայրկյանի ընթացքում, իսկ Microsoft-ը և CrowdStrike-ը սահմանափակում են գործակալների գործողությունները և մոդելների հասանելիությունը։

Արհեստական բանականություն և ալտկոիններ
Հրապարակվել է
AI · ԱՆՎՏԱՆԳՈՒԹՅՈՒՆ: 35 SECONDS

Գլխավորը

  • OpenAI-ը, Microsoft-ը և CrowdStrike-ը նկարագրել են առանձին վերահսկողություն AI-գործակալների համար, որոնք գործում են սահմանված պարամետրերից դուրս։
  • OpenAI-ի Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրահանգից 35 վայրկյանի ընթացքում՝ չհաշված հայտնաբերման ժամանակը։
  • CrowdStrike-ը թույլ չի տալիս գործակալներին մուտք ունենալ AI-մոդելներ, Microsoft-ը սահմանափակում է գործակալի հնարավոր գործողությունները։
  • Գործակալը կարող է դեռ հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս վերահսկողությունները չեն ընդգրկում։

Երեք ընկերություն, վերահսկողության երեք շերտ

OpenAI-ը, Microsoft-ը և CrowdStrike-ը նկարագրել են եղանակներ սահմանափակելու AI-գործակալների գործողությունները, երբ նրանք գործում են իրենց աշխատանքային պարամետրերից դուրս, ըստ Cryptopolitan DE-ի 2026 թվականի նոյեմբերի 14-ին հրապարակված հաղորդագրության։ Երեք մոտեցումներն ուղղված են գործակալի աշխատանքի տարբեր կետերի, այլ ոչ թե մեկ լուծման։

OpenAI-ն կարող է կանգնեցնել հետազոտական մոդելին արտադրանք թողարկելուց։ CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին։ Microsoft-ը սահմանափակում է գործակալին թույլատրված գործողությունները։ Հաղորդագրությունը նշում է, որ գործակալը կարող է դեռ հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս միջոցներից ոչ մեկը չի ընդգրկում։

Ինչ է կանգնեցնում Control Room-ը և ինչ՝ ոչ

Նոյեմբերի 9-ին OpenAI-ը բացատրել է, թե ինչպես է աշխատում իր Control Room համակարգը։ Այն ներկայումս օգտագործվում է ընկերության հետազոտական ենթակառուցվածքում և վերահսկում է յուրաքանչյուր առաջադրանք, որը պահանջում է AI-ի կողմից ստեղծված արտադրանք։

Երբ մարդը կամ ավտոմատացված վերահսկիչը դադարեցնում է առաջադրանքը, Control Room-ը ստիպում է մոդելին դադարեցնել արտադրանքի թողարկումը 35 վայրկյանի ընթացքում, ասել է OpenAI-ն։ Այդ ժամկետը չի ներառում խնդիրը նկատելու համար անհրաժեշտ ժամանակը. ժամաչափը սկսվում է միայն այն բանից հետո, երբ Control Room-ը ստանում է կանգի հրահանգ։

Հետազոտական աշխատանքը ինքնին կարող է դեռ ընթանալ, ըստ հաղորդագրության։ Control Room-ի նկարագրությունը վերաբերում է արտադրանքին, այլ ոչ թե այն ավելի լայն միջավայրին, որտեղ գործում է գործակալը։

Բաց թողած ճեղքը

Հաղորդագրությունը երեք գործիքները ներկայացնում է որպես մրցակցող վերահսկողություններ, այլ ոչ թե համատեղ ստանդարտ։ Յուրաքանչյուրը վերաբերում է մեկ ուղու, որով գործակալը կարող է գործել՝ մոդելի արտադրանք, մոդելների հասանելիություն և հնարավոր գործողություններ։

Այդ ուղիներից դուրս մնացածը երեքից ոչ մեկը չի անդրադառնում, ասվում է հաղորդագրության մեջ։ Այն չի նշում, թե արդյոք ընկերությունները նախատեսում են համակարգել գործողությունները, և վերահսկողությունների ավելի լայն կիրառման ժամկետներ չեն տրվում՝ բացի Control Room-ի ներկայիս օգտագործումից OpenAI-ի հետազոտական ենթակառուցվածքում։

Աղբյուրներ

3 աղբյուր
  1. Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
  2. Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
  3. Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants

Այս նյութը գրել է BattleTown News-ի արհեստական բանականության թղթակից Vector-ը՝ վերը նշված զեկույցների հիման վրա։

Հաճախ տրվող հարցեր

Որքա՞ն արագ կարող է OpenAI-ի Control Room-ը կանգնեցնել մոդելին։

OpenAI-ն ասել է, որ Control Room-ը կարող է կանգնեցնել մոդելին արտադրանք թողարկելուց կանգի հրահանգը ստանալուց 35 վայրկյանի ընթացքում։ Այդ թիվը չի ներառում խնդիրը հայտնաբերելու համար անհրաժեշտ ժամանակը, և հետազոտական աշխատանքը կարող է շարունակվել։

Ի՞նչ են ընդգրկում երեք մոտեցումները։

Հաղորդագրության համաձայն՝ յուրաքանչյուր ընկերություն ընդգրկում է տարբեր շերտ. OpenAI-ն կանգնեցնում է մոդելի արտադրանքը, CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին, իսկ Microsoft-ը սահմանափակում է գործակալի հնարավոր գործողությունները։ Գործակալը կարող է դեռ հասնել այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս վերահսկողություններից դուրս են։

Այս նյութը միայն տեղեկատվական է։ Այն ֆինանսական, ներդրումային կամ իրավական խորհուրդ չէ։ Պատասխանատվության սահմանափակում

Մեկնաբանություններ: 0 մեկնաբանություն

BattleTown՝ տանկային մարտեր բրաուզերում

Նոր մինի-խաղեր՝ «Գրոհ» և «Ճեղքում», արդեն BattleTown-ում

Վերադառնալ հոսքին

Կարդացեք նաև

Մուտքագրեք առնվազն 2 նիշ