Банклар сунъий интеллект бўйича қарорлар учун жавобгардир
Тошкентда бўлиб ўтган Ипак йўли молия ва технологиялари форуми иштирокчилари банкларнинг кредитлашда сунъий интеллект ечимлари бўйича масъулиятини муҳокама қилишди.
Банклар, ҳатто технология инфратузилмасининг бир қисми ауцорсинг қилинган тақдирда ҳам, сун'ий интеллект (АИ) томонидан қабул қилинган қарорлар учун то'лиқ жавобгарликни о'з зиммаларига оладилар. Бу ҳақда 25-август куни Тошкентда бо'либ о'тган Ипак ё'ли молия ва технологиялар форумида бо'либ о'тган "Синфга унинг остидаги нарсаларга ишонмасдан ишонишимиз мумкинми?" сессияси иштирокчилари та'кидладилар. Мунозарани Осиё раҳбари ва Глобал молия ва технологиялар тармог'ининг форумлар ҳамраиси Жеймс Бой олиб борди.
Сессияда самарқандлик тадбиркор Азизанинг кредит аризаси АИ тизими томонидан рад этилган гипотетик ҳолати ко'риб чиқилди. Ушбу мисолда банк рақамли идентификацияни текширишни амалга оширади ва турли манбалардан, жумладан, ташқи провайдер модели ва мамлакат ташқарисидаги булутли инфратузилмадан ма'лумотлардан фойдаланади. Рад этилгандан со'нг, банк муаммо қаерда пайдо бо'лганини аниқ тушунтира олмади - ма'лумотларда, идентификацияда, моделда ёки бошқа тизимда.
Панел иштирокчиларидан технология занжирининг энг муҳим элементини аниқлаш со'ралди.
Натионал Интеллестуал Солутионс (Горгона) компаниясининг техник директори Александр Симоненко ма'лумотларни асосий элемент сифатида та'кидлаб, бу ташқаридан "импорт қилиб" бо'лмайдиган ягона қатлам эканлигини ва ма'лумотлардаги хатолар тизимнинг кейинги барча қатламларига тарқалишини та'кидлади.
Осиё Тараққиёт Банкининг катта Финтеч мутахассиси Арвинд Санкаран сун'ий интеллект моделлари ва уларнинг тушунарлилигига ург'у бериб, О'збекистондаги ма'лумотларнинг ҳолати аллақачон мақбул даражада эканлигини та'кидлади.
О'збекистон Марказий банки Бош Ахборот Маркази раҳбарининг о'ринбосари Шеруан Башар қарор қабул қилиш жараёни устидан назоратнинг ё'қлигини асосий муаммо деб атади.
УзСард бош директори Давит Меликидзе ма'лумотлар ва моделларнинг аҳамиятини тенглаштириб, ма'лумотлар маҳаллий даражада сақланиши ва моделлар қаерда ишлаб чиқилганидан қат'и назар, маҳаллий даражада тасдиқланиши кераклигини аниқлади.
Сурфин Мета Дигитал Течнологй бош директори ва асосчиси Янан Ву ҳам моделни асосий элемент сифатида та'кидлаб, замонавий моделлар триллионлаб параметрларга эга фундаментал моделлар асосида қурилганлигини ва шунинг учун шаффоф, идеал ҳолда очиқ манбали бо'лиши кераклигини та'кидлади.
Меликидзе УзСард компаниясига сун'ий интеллект ечимларини жорий этишда ё'л-ё'риқ ко'рсатадиган бешта тамойилни санаб о'тди: моделнинг ишлашини тушуниш, уни аудит қилиш имконияти, о'згаришлар киритиш имконияти, ечимни то'лиқ алмаштириш имконияти ва носозликдан кейин тикланиш имконияти.
Сймоненко автоном (агентга асосланган) сун'ий интеллект тизимларидан фойдаланганда тизимнинг орқага қайтишига то'сқинлик қиладиган, балки потенциал муаммоли ҳаракатларни башорат қиладиган ёки блоклайдиган ёки уларни инсон тасдиқлашига топширадиган ҳимоя чоралари зарурлигини қо'шимча қилди. Унинг тушунтиришича, бундай тизимларни бошқариш учун учта элемент муҳим: фойдаланувчи идентификатори ва юрисдикция чегаралари орқали о'тказиб бо'лмайдиган ма'лумотлар устидан назорат; модел қарорларини то'лиқ қайд этиш; ва модел провайдерлари ёки то'лов тизимлари о'ртасида алмашиниш имконияти.
Ву о'з компанияси О'збекистонни ҳам қо'шиб ҳисоблаганда, 13 мамлакатда 100 миллион мижозга сун'ий интеллектга асосланган финтеч ечимлари ва молиявий инклюзивлик хизматларини тақдим этишини тушунтирди. Унинг та'кидлашича, кредит рад этилишининг асосий сабаби кредит тарихига эга бо'лмаган қарз олувчиларнинг хавфини аниқ баҳолай олмасликдир. Шунинг учун унинг компанияси ан'анавий кредит ҳисоботлари о'рнига муқобил ма'лумотлардан фойдаланади. У кредит балига кириш ҳамма учун ҳуқуқ деб ҳисобланиши кераклигини та'кидлаб, о'зининг 30 сонияда ижтимоий кредит рейтингини яратадиган ва бир дақиқа ичида кредит балини ҳисоблайдиган хизмати мисолини келтирди.
Меликидзе мас'улиятни қатламларга қараб ажратди: регулятор ма'лумотларни ҳимоя қилиш учун жавобгар бо'лиши керак, кредит берган аниқ молия институти эса мижозлар билан алоқалар учун жавобгардир.
Санкаран бизнес кредитларини бериш жараёни ма'лумотлар қатлами, андеррайтинг қатлами, реал вақт режимида қарор қабул қилиш қатлами ва кейинги қарзларни мониторинг қилиш ва ундириш қатламини о'з ичига олишини та'кидлади. Бу жараён тахминан қирқ хил дастурни о'з ичига олади, уларнинг барчаси сун'ий интеллектдан у ёки бу шаклда фойдаланади.
Башар ноаниқ қарор қабул қилиш тизимларидан қочиш зарурлигини та'кидлади, чунки рад этилган ариза мисолида банк мижозга сабабини тушунтира олмайдиган "қора қути" вазифасини бажаради. Унинг та'кидлашича, регулятор бундай вазиятда қо'лни узиб қо'йиши мумкин эмас, гарчи замонавий сун'ий интеллект моделлари эҳтимолий хусусиятга эга бо'либ қолса ва шу ма'нода ма'лум кириш ва чиқиш ма'лумотлари билан ҳам бутунлай ноаниқ бо'лса ҳам. У кредит қарорлари ҳеч қачон то'г'ридан-то'г'ри катта тил моделлари томонидан қабул қилинишини кутмаслигини ва тушунтиришга яроқли бо'лган ан'анавий машина о'рганиш моделларига ишора қилаётганини аниқлади.
Санкаран қо'шимча қилдики, сун'ий интеллект моделлари катта ҳажмдаги тарихий қарз олувчилар ма'лумотлари билан ишончли тарзда о'қитилади, аммо қийинчиликлар чекка ҳолатларда - кредит тарихига эга бо'лмаган қарз олувчиларда юзага келади. Унинг тушунтиришича, бундай вазиятларда бозор иштирокчилари сун'ий интеллект моделларини расмийлаштирилган қоидалар ва қарор қабул қилишда мажбурий инсон иштироки билан бирлаштирадилар.
Ву, о'з навбатида, ма'лумотларга ишонишнинг асосий омилини исте'молчининг эгалиги сифатида аниқлади ва қайси ма'лумотларни улашишни ва қайси молиявий хизматлар эвазига мижоз ҳал қилиши кераклигини та'кидлади.