„მონაცემებზე დაფუძნებული სტატისტიკური, ხელოვნური ინტელექტის და მანქანური სწავლების მოდელების რისკების მართვის დებულების დამტკიცების თაობაზე“ საქართველოს ეროვნული ბანკის პრეზიდენტის 2020 წლის 17 აგვისტოს №151/04 ბრძანებაში ცვლილების შეტანის შესახებ

1. პირველი მუხლის მე-2 პუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„2. ეს დებულება განსაზღვრავს მოდელების აგებისა და გამოყენების პროცესს და მის ძირითად კომპონენტებს საქართველოს ეროვნული ბანკის ზედამხედველობისადმი დაქვემდებარებული შემდეგი სუბიექტების მიერ – კომერციული ბანკები, არასაბანკო სადეპოზიტო დაწესებულებები, მიკროსაფინანსო ორგანიზაციები, საკრედიტო საინფორმაციო ბიურო და სესხის გამცემი სუბიექტები, რომლებიც წარმოადგენენ იურიდიულ პირებს (შემდგომში – მოდელის გამომყენებელი სუბიექტი).“.

2. მე-2 მუხლს დაემატოს შემდეგი შინაარსის „ზ“ ქვეპუნქტი:

„ზ) გადახრა – მონაცემებში ან/და ალგორითმში არსებული კანონზომიერება, რომლის გამოც სისტემატურად ხდება ცალკეული ინდივიდისათვის ან ჯგუფისათვის არასამართლიანი უპირატესობის მინიჭება.“.

3. მე-4 მუხლის მე-3 პუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„3. მოდელის მართვის პროცესში მოდელის გამომყენებელმა სუბიექტმა უნდა შეიმუშაოს ეთიკის პრინციპები, ხოლო კომერციულმა ბანკმა ასევე უნდა იხელმძღვანელოს საქართველოს ეროვნული ბანკის პრეზიდენტის 2021 წლის 2 თებერვლის №13/04 ბრძანებით დამტკიცებული საბანკო და ფასიანი ქაღალდების ბაზრის მონაწილეების ეთიკის პრინციპებისა და პროფესიული ქცევის კოდექსით განსაზღვრული შესაბამისი პრინციპებით.“.

4. მე-5 მუხლის:

ა) მე-5 პუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„5. თუ მოდელის გამომყენებელი სუბიექტი ვერ რწმუნდება, რომ მონაცემთა ხარისხთან დაკავშირებული სტანდარტები და პოლიტიკა აკმაყოფილებს ამ მუხლის მე-4 პუნქტის მოთხოვნებს, აღნიშნული უნდა გახდეს მოდელის გამომყენებელი სუბიექტის მიერ მოდელის გამოყენების შეზღუდვის ან შეჩერების საფუძველი.“;

ბ) მე-10 პუნქტის შემდეგ დაემატოს შემდეგი შინაარსის 10¹–10³ პუნქტები:

„10¹. მოდელი უნდა იყოს გამჭვირვალე და უნდა იძლეოდეს ახსნისა და ინტერპრეტაციის შესაძლებლობას. გამჭვირვალობის უზრუნველყოფის მიზნით, მოდელის ტესტირების ეტაპზე უნდა შემოწმდეს მოდელში არსებული ლოგიკა, ტექნიკური შინაარსი და გადახრის არსებობა.

10². იმ ტიპის მოდელების შემთხვევაში, სადაც რთულია სრული წარმოდგენის შექმნა, თუ როგორ გარდაიქმნება შემავალი პარამეტრები შედეგში და ვერ ხდება შემავალ პარამეტრებსა და შედეგს შორის არსებული კანონზომიერების ცალსახად იდენტიფიცირება („შავი ყუთის” მოდელები, მათ შორის, ნეირონული ქსელები, ანსაბლ მეთოდები და სხვ.), გამჭირვალობის უზრუნველყოფის მიზნით გამოყენებული უნდა იქნეს, მათ შორის, შემდეგი ტექნიკა:

ა) გლობალური ახსნადობის ტექნიკა:

ა.ა) ნაწილობრივი დამოკიდებულებების გრაფიკები;

ა.ბ) ცვლადების მნიშვნელოვნებები;

ა.გ) სუროგატი მოდელი (გადაწყვეტილების ხე);

ბ) ლოკალური ახსნადობის ტექნიკა:

ბ.ა) ინდივიდუალური პირობითი მოლოდინის გრაფიკები;

ბ.ბ) შეპლის მნიშვნელობა;

ბ.გ) ადგილობრივი ინტერპრეტირებადი მოდელ-აგნოსტიკური ახსნები.

10³. გამჭირვალობის საჭიროება იზრდება, თუ მოდელის გამოყენებით მიღებული გადაწყვეტილებები პირდაპირ გავლენას ახდენს მომხმარებლებზე და გადაწყვეტილების მიღების პროცესის ავტომატიზაციის დონე მაღალია.“.

5. მე-6 მუხლის:

ა) მე-4 პუნქტის შემდეგ დაემატოს შემდეგი შინაარსის 4¹ და 4² პუნქტები:

„4¹. შიდა ვალიდაციის პროცესი უნდა წარიმართოს რისკზე დაფუძნებული მიდგომის გამოყენებით. მოდელის გამომყენებელმა სუბიექტმა უნდა შეიმუშაოს რისკიანობის მიხედვით მოდელების რანჟირების/დაჯგუფების მეთოდოლოგია. მოდელის რანჟირების პროცესში გათვალისწინებული უნდა იყოს მატერიალურობა და მოდელის გამოყენების რისკი:

ა) მატერიალურობის განსაზღვრის პროცესში გათვალისწინებული უნდა იქნეს შემდეგი კომპონენტები:

ა.ა) მოდელის შეცდომის ან/და არასწორი გამოყენების ეკონომიკური შედეგები;

ა.ბ) მოდელის გამომყენებელი სუბიექტისთვის მნიშვნელოვანი გადაწყვეტილების მიღების პროცესზე ზეგავლენის მოხდენის შესაძლებლობა;

ა.გ) მოდელის გამომყენებელი სუბიექტის ფინანსურ და საზედამხედველო ანგარიშგებაზე ზეგავლენა.

ბ) მოდელის გამოყენების რისკის შეფასებისას გათვალისწინებული უნდა იქნეს შემდეგი კომპონენტები:

ბ.ა) მონაცემთა სიზუსტე და მართვა;

ბ.ბ) მოდელის დიზაინი და კომპლექსურობა;

ბ.გ) მოდელის სტაბილურობა, სიზუსტე და გადახრის არსებობა;

ბ.დ) მოდელთან დაკავშირებული დოკუმენტაცია;

ბ.ე) მოდელების ურთიერთდამოკიდებულება.

4². მოდელის რისკის დონის მიხედვით მოდელის გამომყენებელმა სუბიექტმა უნდა განსაზღვროს შიდა ვალიდაციის ხასიათი და ინტენსივობა.“;

ბ) მე-5 პუნქტის:

ბ.ა) „ბ.ა“ ქვეპუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„ბ.ა) პროცესების ვერიფიკაციის ეტაპზე მოწმდება მოდელის კომპონენტების ფუნქციონირების გამართულობა: შიდა და გარე მონაცემების სიზუსტე, სისრულე და მოდელის დიზაინთან თავსებადობა, რაც გულისხმობს, რომ დაცვის მეორე ხაზი უნდა დარწმუნდეს მონაცემების სისწორეში, გამოითხოვოს მონაცემები, შეამოწმოს რამდენად ლოგიკურ მნიშვნელობებს იღებს და დარწმუნდეს მონაცემების მოდელის მიზანთან შესაბამისობაში. ამ ეტაპზე, მოწმდება კომპიუტერული კოდის სისწორე და ცვლილების კონტროლის მექანიზმი. მეორე ხაზმა პირველი ხაზის მიერ გამოყენებული მონაცემებისა და კომპიუტერული კოდის საშუალებით უნდა გაუშვას მოდელი და შეადაროს მიღებული შედეგები პირველი ხაზის შედეგებს;“;

ბ.ბ) „ბ.ბ“ ქვეპუნქტის შემდეგ დაემატოს შემდეგი შინაარსის „ბ.ბ¹“ ქვეპუნქტი:

„ბ.ბ¹) თუ მოდელის ვალიდაციის შედეგები არადამაკმაყოფილებელია და ახალი მონაცემებისა და ახალი მოდელის გამოყენება არასაკმარისია, შედეგების ან/და მოდელში შემავალი პარამეტრების ჩანაცვლება შესაძლოა ექსპერტული მსჯელობის საფუძველზე. განხორციელებული ჩანაცვლების სისწორე უნდა იქნეს დასაბუთებული რაოდენობრივი შედეგების ანალიზით, მათ შორის, შედეგების ანალიზით წარსულ დროით პერიოდზე (back-testing) და მას მუდმივი მონიტორინგი უნდა ჩაუტარდეს;“.

6. მე-7 მუხლის:

ა) მე-2 პუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„2. დაცვის მესამე ხაზი უნდა დარწმუნდეს, რომ მოდელის აგების, შიდა ვალიდაციისა და განახლების პროცესი სათანადოდ არის დოკუმენტირებული. დაცვის მესამე ხაზმა უნდა შეაფასოს გამოყენებული საოპერაციო სისტემები და მოდელში გამოყენებული მონაცემების მართვა.“;

ბ) მე-2 პუნქტის შემდეგ დაემატოს შემდეგი შინაარსის მე-3 პუნქტი:

„3. კომერციული ბანკის შემთხვევაში, დაცვის მესამე ხაზი ასევე უნდა აკმაყოფილებდეს „კომერციული ბანკების კორპორაციული მართვის კოდექსის დამტკიცების თაობაზე“ საქართველოს ეროვნული ბანკის პრეზიდენტის 2018 წლის 26 სექტემბრის №215/04 ბრძანებით დამტკიცებული კოდექსის მოთხოვნებს.“.

7. მე-9 მუხლის:

ა) მე-4 პუნქტი ჩამოყალიბდეს შემდეგი რედაქციით:

„4. მოდელის რისკის შემცირების მიზნით, მესამე მხარემ მოდელის გამომყენებელ სუბიექტს უნდა წარუდგინოს მოდელის განვითარების და შიდა ვალიდაციის ეტაპების დეტალური აღწერა, შესაბამისი ტესტების შედეგები, მოდელის შეზღუდვები, დაშვებები და ის გარემოებები, სადაც პროდუქტის გამოყენება პრობლემებს შექმნის. ამის შემდეგ უნდა განისაზღვროს არის თუ არა მოდელი მოდელის გამომყენებელი სუბიექტის პროდუქტებისთვის მიზანშეწონილი. თუ მესამე მხარის მიერ მიწოდებული მოდელის განვითარებასა და ვალიდაციასთან დაკავშირებული დოკუმენტები არ არის ხელმისაწვდომი, მოდელის გამომყენებელ სუბიექტს უნდა გააჩნდეს საკუთარი მონაცემები, რომლის საფუძველზეც განხორციელდება მოდელის ტესტირება მის შეძენამდე.“;

ბ) მე-4 პუნქტის შემდეგ დაემატოს შემდეგი შინაარსის 4¹–4³ პუნქტები:

„4¹. მოდელის გამომყენებელი სუბიექტი მესამე მხარისგან რეგულარულად უნდა იღებდეს პერიოდულად განხორციელებულ მოდელის ტესტირების შედეგებს და ამოწმებდეს აღნიშნული შედეგების შესაბამისობას საკუთარი რისკის აპეტიტთან.

4². თუ შეძენილი მოდელის მუდმივი მონიტორინგი მესამე მხარის მიერ არ ხორციელდება ამ მუხლის 4¹ პუნქტის შესაბამისად, მოდელის გამომყენებელ სუბიექტს უნდა გააჩნდეს რესურსი თავად შეამოწმოს, რომ მოდელი სათანადოდ დაინერგა, გამოიყენება და მუშაობს მოლოდინების შესაბამისად.

4³. მოდელის გამომყენებელმა სუბიექტმა რისკზე დაფუძნებული მიდგომით უნდა განახორციელოს მესამე მხარის მიერ მიწოდებული და შეძენილი მოდელის გადახედვა, რათა დარწმუნდეს, რომ არსებული მოდელების რისკის მართვა შეესაბამება მოლოდინს.“.

8. მე-9 მუხლის შემდეგ დაემატოს შემდეგი შინაარსის 9¹ მუხლი:

„მუხლი 9¹. ეთიკის პრინციპები

1. მოდელის განვითარების, დანერგვისა და გამოყენების პროცესში მოდელის გამომყენებელმა სუბიექტმა უნდა დაიცვას, სულ მცირე, ეთიკის შემდეგი პრინციპები: გადახრისგან თავის არიდება და გამჭვირვალობა.

2. მოდელის დიზაინი და მოდელის მართვის პროცესი იმგვარად უნდა შემუშავდეს, რომ არ იძლეოდეს გადახრას შედეგებში, მონაცემებში თუ ალგორითმში არსებული შეცდომების გამო.

3. გადახრის ტიპებია:    

ა) გადახრა შერჩევისას – მოდელირებისათვის გამოყენებული მონაცემები არ არის საკმარისად დიდი ან საკმარისად რეპრეზენტატიული;

ბ) სტერეოტიპული გადახრა – მოდელის აგებისათვის გამოყენებული მონაცემები ასახავს სტერეოტიპებს ან/და მოსაზრებებს, რომლებიც ობიექტურად/მონაცემებით არ დასტურდება;

გ) ქცევითი გადახრა – არარაციონალური რწმენა ან ქცევა, რომელსაც შეუძლია ქვეცნობიერად გავლენა მოახდინოს გადაწყვეტილების მიღების პროცესზე. გამოიყოფა ორი ტიპის გადახრა: ემოციური და აზროვნების. აზროვნების გადახრა წარმოიშობა კვალიფიკაციის ან/და ინფორმაციის ნაკლებობის ან ინფორმაციის არასწორი დამუშავების შედეგად. აზროვნების გადახრას შესაძლებელია ადგილი ჰქონდეს, როდესაც მოდელის გამომყენებელი სუბიექტი არ ითვალისწინებს ან ცვლის ახალ ინფორმაციას, რომელიც ეწინააღმდეგება ადრე არსებულ რწმენას ან შემეცნებას. ემოციური გადახრა წარმოიქმნება სპონტანურად და არაცნობიერად, სუბიექტური დამოკიდებულებებისა და გრძნობების შედეგად. ემოციური გადახრის წყარო შეიძლება იყოს ზედმეტი თავდაჯერებულობა, მიმდინარე მდგომარეობის შენარჩუნებისადმი მიდრეკილება, საკუთარი აქტივის გადაჭარბებით შეფასებისადმი მიდრეკილება და სხვ.;

დ) გადახრა გამორიცხვისას – მნიშვნელოვანი მონაცემების არასწორად გამორიცხვა მონაცემთა ნაკრებიდან (მათ შორის, მნიშვნელოვანი ინფორმაციის მიჩნევა ამოვარდნილ მონაცემებად (outlier)).

4. გადახრის ფაქტორების მიტიგაციისათვის მოდელის გამომყენებელმა სუბიექტმა უნდა უზრუნველყოს:

ა) მონაცემებში არსებული გადახრის იდენტიფიცირების, ინფორმაციის გაცვლისა და მიტიგაციისთვის საჭირო სახელმძღვანელო მითითებების, წესებისა და პროცედურების დადგენა;

ბ) მონაცემების დამუშავების პროცესში იდენტიფიცირებადი გადახრის მონიტორინგი და, შესაძლებლობის ფარგლებში, აღმოფხვრა;

გ) მიმდინარე მონიტორინგის პროცესში მოდელში გადახრის არსებობის შემოწმება;

დ) მოძველებული მონაცემების გამოყენების კონტროლი და აღმოფხვრა, თუ მონაცემებში არსებული ტენდენცია და კანონზომიერება აღარ შეესაბამება მიმდინარე მდგომარეობას;

ე) მოდელის გამომყენებელი სუბიექტის შესახებ ყველა ხელმისაწვდომი რელევანტური მიკრომახასიათებლის ინტეგრირება მოდელში. ჩამნაცვლებელი ცვლადი არ უნდა გამოიყენებოდეს, თუ იგი რეალურად შედეგობრივ ცვლადთან კაუზალურ დამოკიდებულებაში არ იმყოფება;

ვ) სოციალურად ნეიტრალური შედეგისთვის პრიორიტეტის მინიჭება, თუ ამით მოდელის სიზუსტე მნიშვნელოვნად არ მცირდება;

ზ) მოდელირების პროცესში არასწორი ალგორითმების გამოყენების კონტროლი, თუ მონაცემები შეიცავს გარკვეული სახის გადახრას.

5. მოდელის გამომყენებელმა სუბიექტმა უნდა უზრუნველყოს მოდელის გამოყენებით მიღებული გადაწყვეტილების ლოგიკის გამჭირვალობის ზრდა. გამჭირვალობის უზრუნველყოფის მიზნით, მოდელის გამომყენებელ სუბიექტს, საჭიროების შემთხვევაში, უნდა შეეძლოს მომხმარებლისათვის მოდელის გამოყენებით მიღებული გადაწყვეტილების ლოგიკის ახსნა.

6. მოდელის გამომყენებელმა სუბიექტმა ხელი უნდა შეუწყოს მანქანური სწავლებისა და ხელოვნური ინტელექტის გამოყენებით მიღებული გადაწყვეტილების შესახებ მომხმარებელთა განათლებისა და ცნობიერების ამაღლებას.“.

2. ამ ბრძანების მოქმედება 2022 წლის 1 ოქტომბრიდან გავრცელდეს მოდელის გამომყენებელი სუბიექტების ყველა მოდელზე.