Արհեստական բանականության թռիչքային զարգացումը փոխել է ոչ միայն մեր կյանքի որակը, այլև այն գինը, որը մենք վճարում ենք հարմարավետության համար: Եթե նախկինում տվյալների գաղտնիության շուրջ քննարկումները հիմնականում պտտվում էին սոցիալական ցանցերի և մարքեթինգային հսկաների շուրջ, ապա այսօր մենք մի պատմական փուլում ենք, երբ տվյալները դարձել են թե՛ պետական վերահսկողության, թե՛ աշխարհաքաղաքական պայքարի հիմնական գործիքը: Թեման շատ ծավալուն է։ Դիտարկենք մի քանի կարևոր կետ։
Պետական վերահսկողություն և «գայթակղիչ» հարմարավետություն
Այսօր պետությունները ողջ աշխարհում օգտագործում են ԱԲ-ն՝ որպես վերահսկողության աննախադեպ գործիք: Տեսախցիկների դեմքի ճանաչման համակարգերը, վարքագծային վերլուծությունները և կանխատեսող ոստիկանության (predictive policing) գործիքները հաճախ ներդրվում են առանց հանրային լայն իրազեկման կամ հստակ օրենսդրական սահմանափակումների:
Մենք հաճախ նույնիսկ չգիտենք, թե ինչպես և որտեղ է պետությունը կիրառում ԱԲ ալգորիթմները մեր քայլերին հետևելու համար: Սա չի վերաբերում միայն հստակ բռնապետություններին։ Օրինակ, Հայաստանում պետական կառույցները նույնպես սկսել են կիրառել ԱԲ-ն տարբեր տիրույթներում։ Բայց, հաճախ այս հարցերում չկա հստակություն, չկա հստակ տեղեկատվություն։ Նույնիսկ կարող են լինել դեպքեր, երբ նախարարը հայտարարի, որ ԱԲ-ն ակտիվ կիրառվում է իր գերատեսչության կողմից, իսկ պաշտոնական հարցման դեպքում նախարարությունը հերքի, որ կիրառում է ԱԲ գործիքներ։ Կոնկրետ Հայաստանի պետական կառույցների կողմից ԱԲ կիրառման փաստերի և դրանց հետ կապված խնդիրների վերաբերյալ հնարավոր է ծանոթանալ առանձին զեկույցում՝ «Արհեստական բանականության գործիքների կիրառումը ՀՀ պետական մարմիններում»։
Ավելի հետաքրքիր է փոփոխությունը մարդկանց վերաբերմունքի մեջ: Տարիներ շարունակ մարդիկ և բազմաթիվ կազմակերպություններ ահազանգում էին, երբ սոցիալական ցանցերն օգտագործում էին իրենց տվյալները թիրախային գովազդի համար: Դա դիտվում էր որպես ներխուժում անձնական տիրույթ՝ հանուն կորպորատիվ շահի: Սակայն այսօր, երբ ԱԲ հարթակները առաջարկում են անձնական օգնականի ծառայություններ կամ կրեատիվ գործիքներ, օգտատերերը շատ ավելի հանդուրժող են դարձել: Մենք հակված ենք հաճախ մոռանալ գաղտնիության մասին, երբ դիմացը ստանում ենք անհատականացված «կախարդանք»: Մարդիկ կարծում են, որ դա «ընդամենը օգնական է», և սա միայն կապիտալիստների հարստացման համար չէ:
Փոքր հավելվածներ՝ մեծ անվտանգային ճեղքեր
Շուկան հեղեղված է փոքր և միջին ընկերությունների կողմից ստեղծված ԱԲ գործիքներով: Լուսանկարների մշակման, խոսող ավատարների ստեղծման կամ տեքստերի թարգմանության հավելվածները սնվում են մեր տվյալներով: Սակայն, ի տարբերություն տեխնոլոգիական հսկաների (Google, OpenAI, Microsoft, Apple և այլն), այս փոքր հարթակները հաճախ չունեն տարրական տեղեկատվական անվտանգության վերահսկողություն: Ավելին, դրանք նույնիսկ կարող է ստեղծված լինեն այդպես կոչված vibe coding-ի միջոցով, երբ ծրագրային կոդը գրում է անտեղյակ մարդ, որը օգտվում է ծրագրավորող ԱԲ-ով, և հաճախ լավ չի էլ հասկանում ծրագրի ճարտարապետությունը։
Այս փոքր հավելվածները դառնում են տվյալների արտահոսքի հիմնական աղբյուր: Դրանք հաճախ ստեղծվում են արագ՝ շուկա դուրս գալու համար, և անվտանգությունը մնում է երկրորդական, երրորդական պլանում: Երբ դուք վերբեռնում եք ձեր լուսանկարը՝ ԱԲ-ով նոր կերպար ստանալու համար, այդ լուսանկարը և դրա հետ կապված մետատվյալները (տեղադրություն, սարքի տվյալներ) հաճախ պահվում են անպաշտպան սերվերներում:
Անվտանգային բացերի հիմնական պատճառները
- Անփորձություն: Փոքր թիմերը չունեն կիբերանվտանգության մասնագետներ:
- Ռեսուրսների պակաս: Տվյալների կոդավորումը և պարբերական աուդիտը թանկ հաճույք են:
- «Ստվերային ԱԲ» (Shadow AI). Աշխատակիցները հաճախ օգտագործում են չստուգված ԱԲ գործիքներ աշխատանքային նպատակներով՝ պատահաբար հանրայնացնելով ընկերության գաղտնի տվյալները:
- Չարամիտ կիրառում: Ավելին, կան դեպքեր, երբ ԱԲ գործիքը չարամտորեն է տարածվում և ստեղծված է տվյալներ գողանալու կամ դիվերսիոն գործողությունների համար։ Այսսպես, Disney ընկերությունից արտահոսել էր 1TB-ից ավելի տվյալ, քանի որ աշխատակիցը օգտագործում էր չարամիտ ծրագիր պարունակող ԱԲ գործիք։
Որպես հետևանք, մենք ունենք ահռելի քանակի հավելվածներ, որոնք սնվում են ամենաինտիմ անձնական տվյալներով և հանդիսանում են զանգվածային արտահոսքների աղբյուր։
Դարքնեթից մինչև հիբրիդային պատերազմներ
Արտահոսած ցանկացած տվյալ վերջնարդյունքում հայտնվում է Դարքնեթում (Darknet): Եթե նախկինում այս տվյալների հիմնական գնորդները կիբերհանցագործներն էին, ովքեր զբաղվում էին, օրինակ, բանկային զեղծարարությամբ, ապա պատկերը վերջին տարիներին փոխվում է:
Այժմ այդ տվյալների խոշոր սպառողներ են հանդիսանում նաև պետական հատուկ ծառայությունները: Նրանք գնում են արտահոսած տեղեկությունները ոչ միայն սեփական քաղաքացիներին հետևելու, այլև այլ պետությունների դեմ «տաք» հակամարտությունների և հիբրիդային հակամարտությունների ժամանակ օգտագործելու համար:
Ինչպե՞ս են տվյալները վերածվում զենքի. մի քանի օրինակ
- Թիրախավորված ապատեղեկատվություն: Օգտագործելով արտահոսած անձնական նախասիրությունները՝ պետությունները կարող են ստեղծել ԱԲ-ով գեներացված քարոզչություն, որը հարմարեցված է կոնկրետ հասարակական խմբերի համար:
- Սոցիալական ինժեներիա: Գողացված տվյալների հիման վրա ստեղծված «դիփֆեյք» (deepfake) ձայնային կամ վիդեո հաղորդագրությունները կարող են օգտագործվել պետական պաշտոնյաների կամ զինվորականների դեմ՝ գաղտնի տեղեկատվություն կորզելու նպատակով:
- Հասարակական տրամադրությունների մանիպուլյացիա: Կինետիկ (ռազմական) գործողությունների ժամանակ թշնամի պետությունը կարող է կիրառել հավաքագրված տվյալները՝ թիրախային երկրում խուճապ տարածելու կամ հասարակությունը պառակտելու համար:
Մենք ապրում ենք մի ժամանակաշրջանում, որտեղ տվյալների գաղտնիությունը այլևս միայն անհատական խնդիր չէ, այլ ազգային անվտանգության բաղադրիչ: ԱԲ-ն մեզ տալիս է հզոր գործիքներ, բայց միաժամանակ մեզ դարձնում է «թափանցիկ» նրանց համար, ովքեր տիրապետում են այդ ալգորիթմներին: Յուրաքանչյուր նոր հավելված ներբեռնելիս կամ ԱԲ-ին հարց տալիս պետք է հիշել՝ այն, ինչ այսօր օգնում է մեզ գրել նամակ կամ ստեղծել գեղեցիկ նկար, վաղը կարող է դառնալ տեղեկատվական պատերազմի գործիք:
