Խուսափելով արհեստական ​​բանականության անվտանգության հետ կապված մղձավանջից. ի՞նչ կարող են անել կառավարությունները

Արհեստական ​​բանականության (ԱԲ) անվտանգության շուրջ համաշխարհային մակարդակով աճող մտահոգությունները հանգեցնում են կարգավորման վերաբերյալ ավելի հնչեղ կոչերի։

Այս շաբաթ Anthropic ընկերությունից մի հետազոտողի աղմկահարույց հրաժարականը, որի ընթացքում նա մեղադրեց ընկերությանը և OpenAI-ին «մեր կյանքով խաղալու» մեջ, էլ ավելի թեժացրեց ԱԲ-ի անվտանգության շուրջ ծավալված քննարկումները։

Մինչ Կալիֆոռնիայից մինչև Մեծ Բրիտանիա կառավարությունները փորձում են քաղաքական լուծում գտնել այն հարցին, թե արդյոք հնարավոր է ԱԲ-ն դարձնել անվտանգ, երեք փորձագետ հայտնել են, որ իրական առաջընթաց գրանցելու համար լաբորատորիաները, կառավարություններն ու միջազգային կառույցները նախ պետք է համաձայնության գան փորձարկումների հարցում։

Պարբերաբար ի հայտ եկող տեղեկությունները, ըստ որոնց՝ ԱԲ լաբորատորիաներին չի հաջողվել վերահսկողության տակ պահել իրենց փորձարկած մոդելները՝ թույլ տալով դրանց դուրս գալ արտաքին աշխարհ, որտեղ դրանք ստել են, կատարել հաքերային հարձակումներ և համակարգել գործողությունները միմյանց հետ, մեծացրել են հրատապությունը՝ անդրադառնալու հիմնարար հարցերին. ինչպե՞ս կարող են կամ պետք է կառավարություններն ու այլ կառույցներ երաշխավորել, որ ԱԲ-ն մշակվում և կիրառվում է անվտանգ կերպով։

Օրենսդիրները, քարոզչական խմբերն ու մշակողները միահամուռ կերպով կոչ են անում ընդունել ԱԲ-ի վերաբերյալ նոր օրենքներ և միջազգային պայմանագրեր։ «Սա ազդանշան է ԱՄՆ Կոնգրեսի և աշխարհի բոլոր խորհրդարանների համար, որ մենք պետք է անհապաղ քայլեր ձեռնարկենք՝ կասեցնելու ԱԲ-ի անվերահսկելի աճը», – հինգշաբթի BBC-ի Newsnight հաղորդման եթերում հայտարարել է ԱՄՆ սենատոր Բեռնի Սանդերսը։

Զրուցակից փորձագետները ցանկանում են տեսնել մշակողների կողմից առաջ քաշված մոտեցումների արմատական ​​վերանայում. մասնավորապես՝ ԱԲ գործակալների զանգվածային (և ոչ թե մեկ առ մեկ) փորձարկում, ինչպես նաև ոլորտի կողմից ավելի ավանդական՝ «հին դպրոցի» աուդիտի մեթոդների կիրառում, որոնք բնորոշ են միջուկային էներգետիկայի ոլորտին։

Հիմնարար հարցերի ճիշտ կարգավորումը

ԱԲ-ի հետ կապված այս տարվա աճող մ Մեկ այլ համեմատաբար պարզ մոտեցում կլիներ AI (արհեստական ​​բանականության) ընկերություններից պահանջել հաշվետվություն ներկայացնել անվտանգության հետ կապված միջադեպերի վերաբերյալ՝ անկախ նրանից՝ դրանք տեղի են ունեցել փորձարկման փուլում, թե ոչ։

Դրա վառ օրինակն է Reuters-ի՝ անցյալ շաբաթ հրապարակած տեղեկությունը, ըստ որի՝ OpenAI-ի գործակալները (ինքնավար ծրագրային մոդուլները) դեռևս մայիսին կոտրել էին գերմանական մի կայք՝ այն որպես հաղորդագրությունների փոխանակման հարթակ օգտագործելու նպատակով։

OpenAI-ը հրապարակայնորեն չէր հայտնել այդ միջադեպի մասին և Reuters-ի հրապարակմանն արձագանքել էր X հարթակում՝ նշելով. «Մենք և AI-ի ոլորտի լայն հանրությունը դեռևս չունենք հստակ ստանդարտ այն մասին, թե ինչպես պետք է հաղորդել ուսուցման, գնահատման և գործարկման ընթացքում ի հայտ եկող՝ նպատակներից շեղման (misalignment) դեպքերի մասին»։

«Միջադեպերի վերաբերյալ [հաշվետվությունների] ժամկետները պետք է կտրուկ կրճատվեն, ուստի մեզ անհրաժեշտ են շարունակական մշտադիտարկման շատ ավելի լավ հնարավորություններ», — ասել է Լոնդոնում գործող «Երկարաժամկետ կայունության կենտրոն» (Centre for Long-Term Resilience) վերլուծական կենտրոնի AI-ի քաղաքականության գծով ղեկավար Իմոջեն Սթեդը՝ հավելելով, որ տվյալները պահանջվելու են իրական ժամանակում, «և դա վերաբերելու է թե՛ կառավարություններին, թե՛ լաբորատորիաներին»։

Երկուշաբթի օրը Լոնդոնում՝ ControlAI արշավային խմբի կողմից Մեծ Բրիտանիայի օրենսդիրների համար կազմակերպված միջոցառման ժամանակ համակարգչային գիտությունների մասնագետ Ստյուարտ Ռասելն ասել է, որ Hugging Face-ի հետ կապված միջադեպի ամենամտահոգիչ կողմն իր համար այն էր, որ «միմյանց հետ հաղորդակցվող հազարավոր գործակալներ գործարկելով՝ նրանք կարողացել են ստեղծել այնպիսի վարքագիծ, որին ոչ մի առանձին գործակալ ինքնուրույն ի վիճակի չէր լինի հասնել»։ Նա նկատի ուներ հետաքննության արդյունքները, որոնք ցույց էին տալիս, որ միջադեպը շատ ավելի լուրջ էր, քան սկզբում ընդունել էր OpenAI-ը։

«Սակայն գնահատման գործընթացում ստանդարտ թեստավորումն իրականացվում է մեկ AI (արհեստական ​​բանականության) համակարգի, այլ ոչ թե հազարավոր համակարգերի միջոցով», — ասաց նա օրենսդիրներին, ուստի ոլորտը պետք է հաշվի առնի միաժամանակ համագործակցող բազմաթիվ գործակալների (agents) առկայության հավանականությունը։

Անհամապատասխանություն

Թեստավորման ընթացքում ակնհայտ սխալներից խուսափելուց բացի, գոյություն ունեն AI-ի թեստավորման մշակույթի հետ կապված ավելի խորը արմատավորված խնդիրներ։

AI մոդելների կամ գործակալների «համապատասխանեցման» (alignment) հայեցակարգը, այսինքն՝ այնպիսի մեխանիզմի ապահովումը, որով AI համակարգերը կատարում են մարդ-օգտատերերի հրահանգները և չեն շեղվում սահմանված ուղղուց, ոլորտի տեսանկյունից համարվում է AI-ի անվտանգության հիմնասյուներից մեկը։

OpenAI-ի նման ընկերությունները համապատասխանեցումը համարում են AI-ն անվտանգ դարձնելու լավագույն միջոցը։ Անցյալ շաբաթ ներկայացնելով նոր՝ GPT-6 Astra մոդելը՝ OpenAI-ն այն բնութագրեց որպես «մեր առավել համապատասխանեցված մոդելը… որն ավելի հավանական է, որ կգործի օգտատիրոջ կողմից սահմանված և միջավայրի կողմից թելադրված սահմաններում»։

Մյուսները համապատասխանեցումը դիտարկում են որպես AI-ի անվտանգության հիմնական խոչընդոտներից մեկը՝ այն համարելով ավելի շուտ ժամանակավոր լուծում կամ «կպչուն սպեղանի», որը ստեղծում է մոդելների անվտանգ դարձվելու պատրանք։

«Ավելի լայն խնդիրն այն է, որ համապատասխանեցումը դարձել է AI-ի անվտանգությանը փոխարինող հասկացություն», — նշել է Մեծ Բրիտանիայի AI-ի անվտանգության ինստիտուտի (AI Security Institute) հասարակական կայունության հարցերով նախկին ղեկավար Էնդրյու Ստրեյթը։

AI Now ինստիտուտի ավագ գիտաշխատող Բոյան Միլանովն ասել է, որ համապատասխանեցումը «երբեք բավարար չափով հուսալի չի լինի՝ լիարժեք անվտանգությանը փոխարինելու համար»։

Hugging Face-ի հետ կապված միջադեպի ուսումնասիրությունները ցույց տվեցին, որ AI գործակալները գործում էին՝ համապատասխանեցվելով իրենց սեփական նպատակներին, այլ ոչ թե իրենց ստեղծող մարդկանց նպատակներին։

OpenAI-ի նախկին հետազոտող և խնդիրների մասին բարձրաձայնող (whistleblower) Դանիել Կոկոտայլոն Լոնդոնում կայացած ControlAI միջոցառման ժամանակ ասել է, որ այդ միջադեպը «անհամապատասխանեցման օրինակ էր. Նա նշեց, որ իր մտահոգությունն այն է, որ ոլորտը շտապում է գործարկել նման գործակալներին՝ միաժամանակ «դրանց վարքագիծը վերահսկելու համար անհրաժեշտ ենթակառուցվածքը դիտարկելով որպես մի բան, որի ստեղծմամբ կարելի է զբաղվել ավելի ուշ»։

«Այն մարդիկ, ում կայքերի, բիզնեսների և հանրային ծառայությունների հետ փոխազդում են այդ գործակալները, համաձայնություն չեն տվել մասնակցելու այդ փորձարկմանը», — ասաց Ստրեյթը։

Հին, բայց արժեքավոր մոտեցում

Անվտանգության չափանիշների նկատմամբ հնաոճ մոտեցումը այլընտրանք է ոլորտի կողմից նախընտրելի համարվող «համապատասխանեցման» (alignment) մոտեցմանը։ Արդեն տարիներ շարունակ հնչում են կոչեր՝ արհեստական ​​բանականության (ԱԲ) ոլորտում կիրառելու անվտանգության ապահովման այնպիսի փորձված մեթոդներ, որոնք գործում են միջուկային անվտանգության, քաղաքացիական ավիացիայի կամ բժշկական սարքավորումների արտադրության ոլորտներում։

Այդ ոլորտներում գործում է այն սկզբունքը, ըստ որի՝ ամբողջական համակարգը պետք է ներառի պաշտպանիչ մեխանիզմներ (fail-safes). դրանք ապահովում են, որ համակարգի որևէ տարրի խափանման դեպքում կա՛մ գործի դրվի այլ մեխանիզմ, կա՛մ համակարգն ամբողջությամբ անջատվի։

ԱԲ-ի դեպքում խնդիրն այն է, որ այն դեռևս չափազանց անկանխատեսելի է։ «Այն կարող է խափանվել շատ տարօրինակ եղանակներով։ ԱԲ-ի դեմ իրականացվող բազմաթիվ հարձակումներ դուրս են գալիս ավանդական շրջանակներից», — նշեց Միլանովը՝ հավելելով, որ անվտանգության ապահովման մոտեցումները պետք է «զարգանան՝ հաշվի առնելով ԱԲ-ի առանձնահատկությունները»։

Այստեղ հիմնարար խնդիր կա, ասաց Ռասելը՝ ControlAI-ի միջոցառմանը ելույթ ունենալով OpenAI-ի նախկին աշխատակից և խնդիրների մասին բարձրաձայնող (whistleblower) Կոկոտայլոյի հետ միասին. խնդիրն այն է, որ նույնիսկ ԱԲ-ն ստեղծողները լիարժեք չեն հասկանում այն։ Մշակողները «մեզ ասում են, որ մենք՝ մարդկությունս, չենք կարող պաշտպանվել նման կանոններով, քանի որ իրենք՝ մշակողները, չգիտեն, թե ինչպես պահպանել դրանք։ Ակնհայտ է, որ սա սխալ պնդում է», — ասաց Ռասելը։

Միլանովը մատնանշեց մեկ այլ խնդիր, որը վերաբերում է մոդելների ստեղծման գործընթացին։ Նրա խոսքով՝ ԱԲ մշակողները մոդելներին վարժեց Այս օրինագծերը փոքր քայլ են փորձարկումների գործընթացը կարգավորելու ուղղությամբ. դրանք նախատեսում են արտաքին աուդիտորների համար գրանցամատյանի և էթիկական կանոնների ստեղծում, ինչպես նաև մեխանիզմներ՝ ստուգելու այն կազմակերպությունների որակավորումը, որոնք առաջարկում են փորձարկման ծառայություններ։

ԱՄՆ-ի նահանգային մակարդակում որոշակի կարգավորումներ են մշակվում։ Չորեքշաբթի օրը Կալիֆոռնիայի նահանգապետ Գևին Նյուսոմը ստորագրեց արհեստական ​​բանականության (ԱԲ) անվտանգության փորձարկումներին վերաբերող երկու օրինագիծ։ Anthropic-ն ավելի վաղ էր աջակցություն հայտնել այդ օրինագծերին, մինչդեռ OpenAI-ը միացավ դրանց հենց Նյուսոմի կողմից հաստատումից անմիջապես առաջ։

Այս օրինագծերը փորձարկումների գործընթացի պաշտոնականացման ուղղությամբ փոքր քայլ են. դրանք սահմանում են ռեեստր և էթիկական կանոններ արտաքին աուդիտորների համար, ինչպես նաև մեխանիզմներ՝ ստուգելու փորձարկման աշխատանքներ իրականացնելու հայտ ներկայացնող կազմակերպությունների որակավորումը։

OpenAI-ը հայտարարեց, որ հորդորում է ԱՄՆ Կոնգրեսին սահմանել ԱԲ-ի անվտանգության պարտադիր ազգային պահանջներ, ինչպես նաև կոչ արեց մշակել «ոլորտի կողմից առաջնորդվող ստանդարտներ» ազգային մակարդակում և «ստեղծել գլոբալ ստանդարտներ», թեև պարզ չէ՝ արդյոք Կոնգրեսը կկարողանա համաձայնության գալ։

ԱՄՆ-ից դուրս՝ Եվրամիությունում արդեն գործում է ԱԲ-ի մասին օրենքը, որը պարտավորեցնում է ընկերություններին պայքարել «համակարգային ռիսկերի» դեմ։ Մեծ Բրիտանիայի կառավարությունն անցյալ տարի հրաժարվեց ԱԲ-ի վերաբերյալ համապարփակ օրինագիծ ընդունելու իր նախնական ծրագրերից, սակայն բրիտանացի որոշ օրենսդիրներ կրկին ձեռնամուխ են լինում այդ գործին։ Այս շաբաթ բրիտանացի պատգամավորներից մեկը ներկայացրեց արհեստական ​​գերբանականության (artificial superintelligence) մշակումն արգելող օրինագիծ, իսկ մեկ ուրիշը դիմեց ՄԱԿ-ին և ՏՀԶԿ-ին (OECD)՝ կոչ անելով ավելի ակտիվ գործել գլոբալ մակարդակում։

OpenAI-ի և Anthropic-ի նման ընկերությունների՝ նոր կարգավորումներին աջակցելու հրապարակային պատրաստակամությունը կարող է ոգևորիչ լինել, թեև Ստրեյթը նշել է. «Իրական փորձությունը կայանում է նրանում, թե արդյոք նրանք կընդունեն անկախ ստուգումները, պարտադիր կատարման ենթակա պարտավորությունները և այնպիսի որոշումներ, որոնք հակասում են իրենց կոմերցիոն շահերին»։

«Մենք չպետք է շարունակենք թողարկել համակարգեր, որոնք ունեն անվտանգության հետ կապված չլուծված լուրջ խնդիրներ, և ակնկալել, որ հասարակությունը կկրի դրանց հետևանքները», – ասել է Ստրեյթը։