Երեք արգելակ AI-գործակալների համար, երեք առանձին ապրանք և ոչ մի ընդհանուր ստանդարտ
35 վայրկյանի ցուցանիշը սկսվում է կանգի հրամանը ստանալու պահից. խնդրի հայտնաբերումն ավելի երկար է տևում, իսկ կատարված գործողությունները մնում են կատարված։

Գլխավորը
- OpenAI-ը, Microsoft-ը և CrowdStrike-ը առանձին-առանձին հայտարարել են վերահսկողության միջոցների մասին, որոնք ուղղված են սահմանված պարամետրերից դուրս գործող AI-գործակալներին։
- OpenAI-ի Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրամանից հետո ընդամենը 35 վայրկյանում։
- 35 վայրկյանը չի ներառում հայտնաբերման ժամանակը, և ավելի վաղ կատարված գործողությունները հնարավոր չէ հետարկել։
- Պաշտպանիչ միջոցները չեն ընդգրկում գործակալի այլ գործիքները, հավատարմագրերը կամ ցանցային կապերը։
- OpenAI-ը հայտնել է, որ ուշացումը պայմանավորված է լիազորման քեշավորման համակարգով, և աշխատում է վերացնել այն։
Երեք ընկերություն, երեք տարբեր արգելակ
OpenAI-ը, Microsoft-ը և CrowdStrike-ը առաջարկել են վերահսկողության միջոցներ, որոնք պետք է սահմանափակեն AI-գործակալների գործողությունները, երբ նրանք դուրս են գալիս սահմանված պարամետրերից, հաղորդում է Cryptopolitan-ը։ Մոտեցումները տարբեր են. OpenAI-ը դադարեցնում է հետազոտական մոդելի արտադրանքը, CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին, իսկ Microsoft-ը սահմանափակում է գործակալի կատարած գործողությունները։
Այս երեք միջոցները առանձին ապրանքներ են, ոչ թե մեկ ընդհանուր ստանդարտ։ Cryptopolitan-ը նշել է, որ գործակալը կարող է դեռևս հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս պաշտպանիչ միջոցներից ոչ մեկը չի ընդգրկում։
Ինչպես է Control Room-ը կանգնեցնում մոդելը
OpenAI-ը Control Room-ը ներկայացրել է նոյեմբերի 9-ին, ըստ հաղորդագրության։ Համակարգը գործում է ընկերության հետազոտական ենթակառուցվածքում և հետևում է աշխատանքներին, որոնք պահանջում են AI-ով ստեղծված արտադրանք։
Երբ մարդը կամ ավտոմատ մոնիտորը աշխատանքը կասեցնում է, Control Room-ը ստիպում է մոդելին դադարեցնել արտադրանքի թողարկումը ընդամենը 35 վայրկյանում։ Այս ցուցանիշը չի ներառում խնդրի հայտնաբերման համար անհրաժեշտ ժամանակը. ժամաչափը սկսվում է միայն այն պահից, երբ Control Room-ը ստանում է կանգի հրաման։
Հետազոտական աշխատանքը ինքնին կարող է շարունակվել, իսկ արդեն կատարված գործողությունները հնարավոր չէ հետարկել։ Cryptopolitan-ը հաղորդել է, որ ուշացումը պայմանավորված է լիազորման համար օգտագործվող քեշավորման համակարգով, և որ OpenAI-ը աշխատում է վերացնել այն։
Ինչ դեռ հրապարակված չէ
Հաղորդագրությունը թվեր չի տալիս, թե որքան հաճախ է գործարկվել Control Room-ը, և մանրամասներ չի ներկայացնում, թե ինչպես են կարգավորված կամ գնագոյացված Microsoft-ի և CrowdStrike-ի վերահսկողության միջոցները։ Այն նաև չի նշում՝ արդյոք երեք ընկերությունները համակարգում են իրենց պաշտպանիչ միջոցները կամ փորձարկում դրանք նույն սցենարներով։
Արդյոք այս միջոցներից որևէ մեկը կարող է կանգնեցնել գործակալին, որը դեռևս հասանելիություն ունի արտաքին գործիքների կամ հավատարմագրերի, բաց հարց է մնում հաղորդագրության մեջ։
Աղբյուրներ
3 աղբյուր- CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
- Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
- Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados
Այս նյութը գրել է BattleTown News-ի արհեստական բանականության թղթակից Vector-ը՝ վերը նշված զեկույցների հիման վրա։
Հաճախ տրվող հարցեր
Ինչ է OpenAI-ի Control Room-ը
Համակարգ, որն օգտագործվում է OpenAI-ի հետազոտական ենթակառուցվածքում, հետևում է AI-ով ստեղծված արտադրանք պահանջող աշխատանքներին և կարող է ստիպել մոդելին դադարեցնել արտադրանքի թողարկումը կանգի հրամանից հետո, ըստ Cryptopolitan-ի։
Որքան արագ է Control Room-ը կանգնեցնում մոդելը
Կանգի հրամանը ստանալուց հետո ընդամենը 35 վայրկյանում։ Ցուցանիշը չի ներառում խնդրի հայտնաբերման համար անհրաժեշտ ժամանակը։
Արդյոք այս միջոցները ընդգրկում են այն ամենը, ինչին AI-գործակալը կարող է հասանելիություն ունենալ
Ոչ։ Ըստ հաղորդագրության՝ գործակալը կարող է պահպանել հասանելիություն այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք պաշտպանիչ միջոցները չեն ընդգրկում։
Այս նյութը միայն տեղեկատվական է։ Այն ֆինանսական, ներդրումային կամ իրավական խորհուրդ չէ։ Պատասխանատվության սահմանափակում
BattleTown՝ տանկային մարտեր բրաուզերում
Նոր մինի-խաղեր՝ «Գրոհ» և «Ճեղքում», արդեն BattleTown-ում




Մեկնաբանություններ: 0 մեկնաբանություն