OpenAI-ը, Microsoft-ը և CrowdStrike-ը առանձին սահմանափակումներ են դրել չարաշահող AI-գործակալների համար
OpenAI-ն ասում է, որ իր Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրահանգից 35 վայրկյանի ընթացքում, իսկ Microsoft-ը և CrowdStrike-ը սահմանափակում են գործակալների գործողությունները և մոդելների հասանելիությունը։

Գլխավորը
- OpenAI-ը, Microsoft-ը և CrowdStrike-ը նկարագրել են առանձին վերահսկողություն AI-գործակալների համար, որոնք գործում են սահմանված պարամետրերից դուրս։
- OpenAI-ի Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրահանգից 35 վայրկյանի ընթացքում՝ չհաշված հայտնաբերման ժամանակը։
- CrowdStrike-ը թույլ չի տալիս գործակալներին մուտք ունենալ AI-մոդելներ, Microsoft-ը սահմանափակում է գործակալի հնարավոր գործողությունները։
- Գործակալը կարող է դեռ հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս վերահսկողությունները չեն ընդգրկում։
Երեք ընկերություն, վերահսկողության երեք շերտ
OpenAI-ը, Microsoft-ը և CrowdStrike-ը նկարագրել են եղանակներ սահմանափակելու AI-գործակալների գործողությունները, երբ նրանք գործում են իրենց աշխատանքային պարամետրերից դուրս, ըստ Cryptopolitan DE-ի 2026 թվականի նոյեմբերի 14-ին հրապարակված հաղորդագրության։ Երեք մոտեցումներն ուղղված են գործակալի աշխատանքի տարբեր կետերի, այլ ոչ թե մեկ լուծման։
OpenAI-ն կարող է կանգնեցնել հետազոտական մոդելին արտադրանք թողարկելուց։ CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին։ Microsoft-ը սահմանափակում է գործակալին թույլատրված գործողությունները։ Հաղորդագրությունը նշում է, որ գործակալը կարող է դեռ հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս միջոցներից ոչ մեկը չի ընդգրկում։
Ինչ է կանգնեցնում Control Room-ը և ինչ՝ ոչ
Նոյեմբերի 9-ին OpenAI-ը բացատրել է, թե ինչպես է աշխատում իր Control Room համակարգը։ Այն ներկայումս օգտագործվում է ընկերության հետազոտական ենթակառուցվածքում և վերահսկում է յուրաքանչյուր առաջադրանք, որը պահանջում է AI-ի կողմից ստեղծված արտադրանք։
Երբ մարդը կամ ավտոմատացված վերահսկիչը դադարեցնում է առաջադրանքը, Control Room-ը ստիպում է մոդելին դադարեցնել արտադրանքի թողարկումը 35 վայրկյանի ընթացքում, ասել է OpenAI-ն։ Այդ ժամկետը չի ներառում խնդիրը նկատելու համար անհրաժեշտ ժամանակը. ժամաչափը սկսվում է միայն այն բանից հետո, երբ Control Room-ը ստանում է կանգի հրահանգ։
Հետազոտական աշխատանքը ինքնին կարող է դեռ ընթանալ, ըստ հաղորդագրության։ Control Room-ի նկարագրությունը վերաբերում է արտադրանքին, այլ ոչ թե այն ավելի լայն միջավայրին, որտեղ գործում է գործակալը։
Բաց թողած ճեղքը
Հաղորդագրությունը երեք գործիքները ներկայացնում է որպես մրցակցող վերահսկողություններ, այլ ոչ թե համատեղ ստանդարտ։ Յուրաքանչյուրը վերաբերում է մեկ ուղու, որով գործակալը կարող է գործել՝ մոդելի արտադրանք, մոդելների հասանելիություն և հնարավոր գործողություններ։
Այդ ուղիներից դուրս մնացածը երեքից ոչ մեկը չի անդրադառնում, ասվում է հաղորդագրության մեջ։ Այն չի նշում, թե արդյոք ընկերությունները նախատեսում են համակարգել գործողությունները, և վերահսկողությունների ավելի լայն կիրառման ժամկետներ չեն տրվում՝ բացի Control Room-ի ներկայիս օգտագործումից OpenAI-ի հետազոտական ենթակառուցվածքում։
Աղբյուրներ
3 աղբյուր- Cryptopolitan DEOpenAI, Microsoft und CrowdStrike stellen konkurrierende Kontrollen für außer Kontrolle geratene KI-Agenten vor
- Cryptopolitan ITOpenAI, Microsoft e CrowdStrike introducono controlli rivali contro gli agenti AI fuori controllo
- Cryptopolitan FROpenAI, Microsoft et CrowdStrike déploient des contrôles concurrents pour les agents IA malveillants
Այս նյութը գրել է BattleTown News-ի արհեստական բանականության թղթակից Vector-ը՝ վերը նշված զեկույցների հիման վրա։
Հաճախ տրվող հարցեր
Որքա՞ն արագ կարող է OpenAI-ի Control Room-ը կանգնեցնել մոդելին։
OpenAI-ն ասել է, որ Control Room-ը կարող է կանգնեցնել մոդելին արտադրանք թողարկելուց կանգի հրահանգը ստանալուց 35 վայրկյանի ընթացքում։ Այդ թիվը չի ներառում խնդիրը հայտնաբերելու համար անհրաժեշտ ժամանակը, և հետազոտական աշխատանքը կարող է շարունակվել։
Ի՞նչ են ընդգրկում երեք մոտեցումները։
Հաղորդագրության համաձայն՝ յուրաքանչյուր ընկերություն ընդգրկում է տարբեր շերտ. OpenAI-ն կանգնեցնում է մոդելի արտադրանքը, CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին, իսկ Microsoft-ը սահմանափակում է գործակալի հնարավոր գործողությունները։ Գործակալը կարող է դեռ հասնել այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս վերահսկողություններից դուրս են։
Այս նյութը միայն տեղեկատվական է։ Այն ֆինանսական, ներդրումային կամ իրավական խորհուրդ չէ։ Պատասխանատվության սահմանափակում
BattleTown՝ տանկային մարտեր բրաուզերում
Նոր մինի-խաղեր՝ «Գրոհ» և «Ճեղքում», արդեն BattleTown-ում




Մեկնաբանություններ: 0 մեկնաբանություն