Banklar sun'iy intellekt bo'yicha qarorlar uchun javobgardir
Toshkentda boʻlib oʻtgan Ipak yoʻli moliya va texnologiyalari forumi ishtirokchilari banklarning kreditlashda sunʼiy intellekt yechimlari boʻyicha masʼuliyatini muhokama qilishdi.
Banklar, hatto texnologiya infratuzilmasining bir qismi autsorsing qilingan taqdirda ham, sun'iy intellekt (AI) tomonidan qabul qilingan qarorlar uchun to'liq javobgarlikni o'z zimmalariga oladilar. Bu haqda 25-avgust kuni Toshkentda bo'lib o'tgan Ipak yo'li moliya va texnologiyalar forumida bo'lib o'tgan "Sinfga uning ostidagi narsalarga ishonmasdan ishonishimiz mumkinmi?" sessiyasi ishtirokchilari ta'kidladilar. Munozarani Osiyo rahbari va Global moliya va texnologiyalar tarmog'ining forumlar hamraisi Jeyms Boy olib bordi.
Sessiyada samarqandlik tadbirkor Azizaning kredit arizasi AI tizimi tomonidan rad etilgan gipotetik holati ko'rib chiqildi. Ushbu misolda bank raqamli identifikatsiyani tekshirishni amalga oshiradi va turli manbalardan, jumladan, tashqi provayder modeli va mamlakat tashqarisidagi bulutli infratuzilmadan ma'lumotlardan foydalanadi. Rad etilgandan so'ng, bank muammo qayerda paydo bo'lganini aniq tushuntira olmadi - ma'lumotlarda, identifikatsiyada, modelda yoki boshqa tizimda.
Panel ishtirokchilaridan texnologiya zanjirining eng muhim elementini aniqlash so'raldi.
National Intellectual Solutions (Gorgona) kompaniyasining texnik direktori Aleksandr Simonenko ma'lumotlarni asosiy element sifatida ta'kidlab, bu tashqaridan "import qilib" bo'lmaydigan yagona qatlam ekanligini va ma'lumotlardagi xatolar tizimning keyingi barcha qatlamlariga tarqalishini ta'kidladi.
Osiyo Taraqqiyot Bankining katta Fintech mutaxassisi Arvind Sankaran sun'iy intellekt modellari va ularning tushunarliligiga urg'u berib, O'zbekistondagi ma'lumotlarning holati allaqachon maqbul darajada ekanligini ta'kidladi.
O'zbekiston Markaziy banki Bosh Axborot Markazi rahbarining o'rinbosari Sheruan Bashar qaror qabul qilish jarayoni ustidan nazoratning yo'qligini asosiy muammo deb atadi.
UzCard bosh direktori Davit Melikidze ma'lumotlar va modellarning ahamiyatini tenglashtirib, ma'lumotlar mahalliy darajada saqlanishi va modellar qayerda ishlab chiqilganidan qat'i nazar, mahalliy darajada tasdiqlanishi kerakligini aniqladi.
Surfin Meta Digital Technology bosh direktori va asoschisi Yanan Vu ham modelni asosiy element sifatida ta'kidlab, zamonaviy modellar trillionlab parametrlarga ega fundamental modellar asosida qurilganligini va shuning uchun shaffof, ideal holda ochiq manbali bo'lishi kerakligini ta'kidladi.
Melikidze UzCard kompaniyasiga sun'iy intellekt yechimlarini joriy etishda yo'l-yo'riq ko'rsatadigan beshta tamoyilni sanab o'tdi: modelning ishlashini tushunish, uni audit qilish imkoniyati, o'zgarishlar kiritish imkoniyati, yechimni to'liq almashtirish imkoniyati va nosozlikdan keyin tiklanish imkoniyati.
Symonenko avtonom (agentga asoslangan) sun'iy intellekt tizimlaridan foydalanganda tizimning orqaga qaytishiga to'sqinlik qiladigan, balki potentsial muammoli harakatlarni bashorat qiladigan yoki bloklaydigan yoki ularni inson tasdiqlashiga topshiradigan himoya choralari zarurligini qo'shimcha qildi. Uning tushuntirishicha, bunday tizimlarni boshqarish uchun uchta element muhim: foydalanuvchi identifikatori va yurisdiktsiya chegaralari orqali o'tkazib bo'lmaydigan ma'lumotlar ustidan nazorat; model qarorlarini to'liq qayd etish; va model provayderlari yoki to'lov tizimlari o'rtasida almashinish imkoniyati.
Vu o'z kompaniyasi O'zbekistonni ham qo'shib hisoblaganda, 13 mamlakatda 100 million mijozga sun'iy intellektga asoslangan fintech yechimlari va moliyaviy inklyuzivlik xizmatlarini taqdim etishini tushuntirdi. Uning ta'kidlashicha, kredit rad etilishining asosiy sababi kredit tarixiga ega bo'lmagan qarz oluvchilarning xavfini aniq baholay olmaslikdir. Shuning uchun uning kompaniyasi an'anaviy kredit hisobotlari o'rniga muqobil ma'lumotlardan foydalanadi. U kredit baliga kirish hamma uchun huquq deb hisoblanishi kerakligini ta'kidlab, o'zining 30 soniyada ijtimoiy kredit reytingini yaratadigan va bir daqiqa ichida kredit balini hisoblaydigan xizmati misolini keltirdi.
Melikidze mas'uliyatni qatlamlarga qarab ajratdi: regulyator ma'lumotlarni himoya qilish uchun javobgar bo'lishi kerak, kredit bergan aniq moliya instituti esa mijozlar bilan aloqalar uchun javobgardir.
Sankaran biznes kreditlarini berish jarayoni ma'lumotlar qatlami, anderrayting qatlami, real vaqt rejimida qaror qabul qilish qatlami va keyingi qarzlarni monitoring qilish va undirish qatlamini o'z ichiga olishini ta'kidladi. Bu jarayon taxminan qirq xil dasturni o'z ichiga oladi, ularning barchasi sun'iy intellektdan u yoki bu shaklda foydalanadi.
Bashar noaniq qaror qabul qilish tizimlaridan qochish zarurligini ta'kidladi, chunki rad etilgan ariza misolida bank mijozga sababini tushuntira olmaydigan "qora quti" vazifasini bajaradi. Uning ta'kidlashicha, regulyator bunday vaziyatda qo'lni uzib qo'yishi mumkin emas, garchi zamonaviy sun'iy intellekt modellari ehtimoliy xususiyatga ega bo'lib qolsa va shu ma'noda ma'lum kirish va chiqish ma'lumotlari bilan ham butunlay noaniq bo'lsa ham. U kredit qarorlari hech qachon to'g'ridan-to'g'ri katta til modellari tomonidan qabul qilinishini kutmasligini va tushuntirishga yaroqli bo'lgan an'anaviy mashina o'rganish modellariga ishora qilayotganini aniqladi.
Sankaran qo'shimcha qildiki, sun'iy intellekt modellari katta hajmdagi tarixiy qarz oluvchilar ma'lumotlari bilan ishonchli tarzda o'qitiladi, ammo qiyinchiliklar chekka holatlarda - kredit tarixiga ega bo'lmagan qarz oluvchilarda yuzaga keladi. Uning tushuntirishicha, bunday vaziyatlarda bozor ishtirokchilari sun'iy intellekt modellarini rasmiylashtirilgan qoidalar va qaror qabul qilishda majburiy inson ishtiroki bilan birlashtiradilar.
Vu, o'z navbatida, ma'lumotlarga ishonishning asosiy omilini iste'molchining egaligi sifatida aniqladi va qaysi ma'lumotlarni ulashishni va qaysi moliyaviy xizmatlar evaziga mijoz hal qilishi kerakligini ta'kidladi.