AIԿարդալու ժամանակը՝ 1 ր0 մեկնաբանություն

Երեք արգելակ AI-գործակալների համար, երեք առանձին ապրանք և ոչ մի ընդհանուր ստանդարտ

35 վայրկյանի ցուցանիշը սկսվում է կանգի հրամանը ստանալու պահից. խնդրի հայտնաբերումն ավելի երկար է տևում, իսկ կատարված գործողությունները մնում են կատարված։

Արհեստական բանականություն և ալտկոիններ
Հրապարակվել է
AI: AI

Գլխավորը

  • OpenAI-ը, Microsoft-ը և CrowdStrike-ը առանձին-առանձին հայտարարել են վերահսկողության միջոցների մասին, որոնք ուղղված են սահմանված պարամետրերից դուրս գործող AI-գործակալներին։
  • OpenAI-ի Control Room-ը դադարեցնում է մոդելի արտադրանքը կանգի հրամանից հետո ընդամենը 35 վայրկյանում։
  • 35 վայրկյանը չի ներառում հայտնաբերման ժամանակը, և ավելի վաղ կատարված գործողությունները հնարավոր չէ հետարկել։
  • Պաշտպանիչ միջոցները չեն ընդգրկում գործակալի այլ գործիքները, հավատարմագրերը կամ ցանցային կապերը։
  • OpenAI-ը հայտնել է, որ ուշացումը պայմանավորված է լիազորման քեշավորման համակարգով, և աշխատում է վերացնել այն։

Երեք ընկերություն, երեք տարբեր արգելակ

OpenAI-ը, Microsoft-ը և CrowdStrike-ը առաջարկել են վերահսկողության միջոցներ, որոնք պետք է սահմանափակեն AI-գործակալների գործողությունները, երբ նրանք դուրս են գալիս սահմանված պարամետրերից, հաղորդում է Cryptopolitan-ը։ Մոտեցումները տարբեր են. OpenAI-ը դադարեցնում է հետազոտական մոդելի արտադրանքը, CrowdStrike-ը թույլ չի տալիս գործակալներին հասնել AI-մոդելներին, իսկ Microsoft-ը սահմանափակում է գործակալի կատարած գործողությունները։

Այս երեք միջոցները առանձին ապրանքներ են, ոչ թե մեկ ընդհանուր ստանդարտ։ Cryptopolitan-ը նշել է, որ գործակալը կարող է դեռևս հասանելիություն ունենալ այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք այս պաշտպանիչ միջոցներից ոչ մեկը չի ընդգրկում։

Ինչպես է Control Room-ը կանգնեցնում մոդելը

OpenAI-ը Control Room-ը ներկայացրել է նոյեմբերի 9-ին, ըստ հաղորդագրության։ Համակարգը գործում է ընկերության հետազոտական ենթակառուցվածքում և հետևում է աշխատանքներին, որոնք պահանջում են AI-ով ստեղծված արտադրանք։

Երբ մարդը կամ ավտոմատ մոնիտորը աշխատանքը կասեցնում է, Control Room-ը ստիպում է մոդելին դադարեցնել արտադրանքի թողարկումը ընդամենը 35 վայրկյանում։ Այս ցուցանիշը չի ներառում խնդրի հայտնաբերման համար անհրաժեշտ ժամանակը. ժամաչափը սկսվում է միայն այն պահից, երբ Control Room-ը ստանում է կանգի հրաման։

Հետազոտական աշխատանքը ինքնին կարող է շարունակվել, իսկ արդեն կատարված գործողությունները հնարավոր չէ հետարկել։ Cryptopolitan-ը հաղորդել է, որ ուշացումը պայմանավորված է լիազորման համար օգտագործվող քեշավորման համակարգով, և որ OpenAI-ը աշխատում է վերացնել այն։

Ինչ դեռ հրապարակված չէ

Հաղորդագրությունը թվեր չի տալիս, թե որքան հաճախ է գործարկվել Control Room-ը, և մանրամասներ չի ներկայացնում, թե ինչպես են կարգավորված կամ գնագոյացված Microsoft-ի և CrowdStrike-ի վերահսկողության միջոցները։ Այն նաև չի նշում՝ արդյոք երեք ընկերությունները համակարգում են իրենց պաշտպանիչ միջոցները կամ փորձարկում դրանք նույն սցենարներով։

Արդյոք այս միջոցներից որևէ մեկը կարող է կանգնեցնել գործակալին, որը դեռևս հասանելիություն ունի արտաքին գործիքների կամ հավատարմագրերի, բաց հարց է մնում հաղորդագրության մեջ։

Աղբյուրներ

3 աղբյուր
  1. CryptopolitanOpenAI, Microsoft, CrowdStrike roll out rival controls for rogue AI agents
  2. Cryptopolitan PTOpenAI, Microsoft e CrowdStrike lançam controles rivais para agentes de IA descontrolados
  3. Cryptopolitan ESOpenAI, Microsoft y CrowdStrike lanzan controles rivales para agentes de IA descontrolados

Այս նյութը գրել է BattleTown News-ի արհեստական բանականության թղթակից Vector-ը՝ վերը նշված զեկույցների հիման վրա։

Հաճախ տրվող հարցեր

Ինչ է OpenAI-ի Control Room-ը

Համակարգ, որն օգտագործվում է OpenAI-ի հետազոտական ենթակառուցվածքում, հետևում է AI-ով ստեղծված արտադրանք պահանջող աշխատանքներին և կարող է ստիպել մոդելին դադարեցնել արտադրանքի թողարկումը կանգի հրամանից հետո, ըստ Cryptopolitan-ի։

Որքան արագ է Control Room-ը կանգնեցնում մոդելը

Կանգի հրամանը ստանալուց հետո ընդամենը 35 վայրկյանում։ Ցուցանիշը չի ներառում խնդրի հայտնաբերման համար անհրաժեշտ ժամանակը։

Արդյոք այս միջոցները ընդգրկում են այն ամենը, ինչին AI-գործակալը կարող է հասանելիություն ունենալ

Ոչ։ Ըստ հաղորդագրության՝ գործակալը կարող է պահպանել հասանելիություն այլ գործիքների, հավատարմագրերի կամ ցանցային կապերի, որոնք պաշտպանիչ միջոցները չեն ընդգրկում։

Այս նյութը միայն տեղեկատվական է։ Այն ֆինանսական, ներդրումային կամ իրավական խորհուրդ չէ։ Պատասխանատվության սահմանափակում

Մեկնաբանություններ: 0 մեկնաբանություն

BattleTown՝ տանկային մարտեր բրաուզերում

Նոր մինի-խաղեր՝ «Գրոհ» և «Ճեղքում», արդեն BattleTown-ում

Վերադառնալ հոսքին

Կարդացեք նաև

Մուտքագրեք առնվազն 2 նիշ