Հայաստանյան առցանց մեդիադաշտում ատելության խոսքը շարունակում է մնալ լուրջ մարտահրավեր՝ հատկապես քաղաքական և գենդերային թեմաների շուրջ քննարկումների ժամանակ։ Լրատվամիջոցների հրապարակումների տակ տարածվող վիրավորանքները, սպառնալիքներն ու ապամարդկայնացնող մեկնաբանությունները վնասում են հանրային բանավեճին, ու տարբեր խնդիրներ առաջացնում խոսքի ազատության ոլորտում։
Այս խնդիրը լուծելու համար «Բոլորը հանուն հավասար իրավունքների» հիմնադրամը և «Բազմակողմանի տեղեկատվության ինստիտուտ» (MDI) ՀԿ-ի հետ միասին Միացյալ Թագավորության աջակցությամբ ստեղծել են moderAItor անունը կրող, արհեստական բանականությամբ աշխատող մոդերացիոն գործիքը, որը նախատեսված է սոցիալական ցանցերում ատելության խոսքի ավտոմատ նույնականացման և կառավարման համար։
«Բոլորը հանուն հավասար իրավունքների» հիմնադրամի ծրագրերի ղեկավար Ալեքսանդր Մարտիրոսյանը պատմում է, որ դեռևս երկու տարի առաջ իրենց թիմը ԶԼՄ-ներում գենդերային հիմքով առցանց ատելության խոսքին վերաբերող մի ուսումնասիրություն էր իրականացնում։ Այդ ընթացքում նրանց հինգ հոգանոց թիմը ութ ամսվա ընթացքում ձեռքով առանձնացրել և մշակել էր 1519 մեկնաբանություն։
«Մենք հավաքագրում էինք լրատվամիջոցների հրապարակումների ներքևում արված մեկնաբանությունները, դրանք մուտքագրում Excel ֆայլի մեջ և իրականացնում կոդավորում՝ ըստ տարբեր չափանիշների՝ ատելության խոսքի բնույթի, հիմքերի, թեմատիկ ուղղության և հրապարակման բովանդակության հետ կապի»,- ասում է Ալեքսանդրը։
Աշխատանքը շատ բարդ էր, քանի որ մեկնաբանությունները երբեմն գրված էին լինում լատինատառ, կիրիլատառ կամ նույնիսկ կոդավորված ձևերով։ Հենց այդ ժամանակ էլ թիմը հասկացավ, որ պետք է գնալ թվային լուծումների հետևից։ Որոշեցին ստեղծել թվային գործիք, որը ավտոմատացված կերպով կկարողանա նույնականացնել ատելության խոսքը և իրականացնել մոդերացիոն գործողություններ։
«Ամիսների երկարատև ու մանրամասն աշխատանքի արդյունքում մենք կարողացանք ստեղծել արհեստական բանականությամբ աշխատող moderAItor գործիքը, որը կարող է միացվել Facebook-ի, Instagram-ի և YouTube-ի էջերին և վերլուծել մեկնաբանությունները ու իրականացնել մոդերացիա։ Օգտատերերը կարող են ընտրել մոդերացիայի զգայունության երեք մակարդակներից մեկը՝ բարձր, միջին կամ ցածր, ինչպես նաև որոշել, թե ինչ գործողություն պետք է իրականացվի հայտնաբերված բովանդակության նկատմամբ։ Ինչքան բարձր զգայնության մակարդակ են ընտրում, այնքան ավելի խիստ է գործիքը մոդերացիան իրականացնում։ Այն կարող է մոդերացնել անգամ հեգնանքն ու սարկազմը՝ կախված օգտագործողի կարիքներից։ Օգտատերը շատ զգայուն մոդերացիայի պարագայում կարող է ընտրել, որ բոլոր դիտարկված մեկնաբանությունները ուղարկվեն վերանայման և ինքը որոշի, թե հետագայում ինչպես վարվի այդ մեկանաբանությունների հետ»,- ասում է Ալեքսանդրը։
Ըստ հեղինակների՝ moderAItor-ը իրականացնում է նաև համատեքստային վերլուծություն, այն գնահատում է ոչ միայն մեկնաբանության բովանդակությունը, այլ վերլուծում այն՝ ելնելով հրապակման համատեքստից։ moderAItor-ը կարողանում է հասկանալ ու աշխատել նաև լատինատառ կամ կիրիլատառ գրված մեկնաբանությունների հետ։ Ցանկացած լեզվով գրված մեկնաբանությունը թարգմանում և վերլուծում է՝ հասկանալով համատեքստը։ Աշխատանքի արդյունքում մոդերացիոն գործիքը հսկայական հետազոտական բազա է հավաքում։ Օրինակ այս ընթացքում հավաքված վիճակագրությունը ցույց է տավել, որ հայաստանյան տիրույթում ամենատարածված վիրավորական բառը «թուրք»-ն է, որն օգտագործվում է որպես պիտակավորում տարբեր համատեքստերում։
էկրանապատկերը՝ moderaitor.app կայքից
Գործիքը նաև հնարավորություն է տալիս հավաքագրել մանրամասն անալիտիկ տվյալներ՝ ցույց տալով ատելության խոսքի տարածման հիմքերն ու բնույթը: Ծրագիրն առանձնացնում է ատելության խոսքի 12 տեսակ՝ ներառյալ բռնության կոչը, ապամարդկայնացումը, պիտակավորումը, ինչպես նաև դասակարգում է դրանք ըստ հիմքերի՝ քաղաքական հայացքներ, ազգություն, սեռ և այլն։
էկրանապատկերը՝ moderaitor.app կայքից
ԶԼՄ-ների էթիկայի Դիտորդ մարմնի հետ համատեղ moderAItor-ի հեղինակները մշակել են նաև բովանդակության մոդերացիայի քաղաքականություն, որը սահմանում է մոդերացիայի ենթակա բովանդակության տեսակները, օգտատերերի տեղեկացման մեխանիզմները, առցանց համայնքների կառավարման սկզբունքները և բողոքների ու վեճերի լուծման ընթացակարգերը։
«Այս փաստաթուղթը ապահովում է մոդերացիայի թափանցիկ և հաշվետու համակարգ։ Մոդերացիոն որոշումները հիմնվում են «Ռաբաթի գործողությունների ծրագիր» միջազգային փաստաթղթի սկզբունքների վրա, որը սահմանում է ատելության խոսքի և դրա դեմ պայքարի չափանիշները»,- ասում է Ալեքսանդրը։
Գործիքն արդեն փորձարկման փուլում է։ Վերջին տասը օրերին միացված լինելով օրինակ «Factor TV»-ի սոցիալական ցանցերի էջերին՝ այն վերլուծել է ավելի քան 17000 մեկնաբանություն։ Դրանցից ավելի քան 2200-ը պարունակել են ատելության խոսքի տարրեր և ենթարկվել են մոդերացիայի։
Էկրանապատկերը՝ moderaitor.app կայքից
«Կարևոր տեղ է հատկացված նաև հաշվետվողականությանը։ Յուրաքանչյուր ջնջված կամ թաքցված մեկնաբանության տակ գործիքը թողնում է հիմնավորում, թե ինչ բնույթի կամ ինչ հիմքով ատելության խոսքի է այն համապատասխանում, որը թույլ է տալիս օգտատերերի հետ ցանկացած վեճի կամ բողոքի դեպքում որպես հիմք և հիմնավորում օգտագործել այդ տվյալները»,- ասում է Ալեքսանդրը։
moderAItor-ի հեղինակները պլանավորում են առաջիկա նախընտրական շրջանում գործիքի օգտագործման անվճար հնարավորություն տալ ավելի քան 10 լրտվամիջոցի և քաղհասարակության ներկայացուցիչների։ Գործող ծրագրի ավարտից հետո էլ կփորձեն նոր ֆինանսական աղբյուրներ գտնել կամ զբաղվել moderAItor-ի մոնետիզացիայով։
