Xitoy sunʼiy intellekt (SI) bilan munosabatlarni jilovlashga kirishdi. U voqealardan ilgarilab ketmoqdami?

2024 yil boshida Xitoyning janubi-sharqidagi Xuanshi shahrida yashovchi bir yigit TikTok’ning Xitoydagi versiyasi — Douyin ilovasida xabar qoldirgani xabar qilingan edi. Unda shunday yozilgandi: «Bu dunyo bilan xayrlashuv».

Bir necha daqiqa ichida Douyin’ning oʻz joniga qasd qilishning oldini olish guruhi harakatga keldi. Kechayu kunduz ishlaydigan ushbu guruh xodimlari yigitning postlarini Xuanshidagi beshta politsiya mahkamasiga yuborishdi.

Uning videolaridan biri mahalliy bogʻda olinganini geolokatsiya orqali aniqlagan politsiya uni ogʻir ruhiy tushkunlik holatida topdi va hayotiga chek qoʻyishidan oldin qutqarib qoldi.

Bu voqea Douyin tomonidan suratga olingan va oʻtgan yili Xitoy davlat OAVlari orqali namoyish etilgan hujjatli filmda tilga olingan edi. Unda aytilishicha, Douyin’ning oʻz joniga qasd qilishning oldini olish guruhi faqatgina 2025 yilning birinchi yarmida 400 ta oʻz joniga qasd qilishga urinish holatiga muvaffaqiyatli aralashib, ularni bartaraf etgan.

Bu voqea Xitoy texnologiya kompaniyalari hukumat bilan qanchalik yaqin hamkorlik qilishini koʻrsatib berdi. Shuningdek, u Xitoy odamlarning texnologiyalardan foydalanishini nazorat qilish va yoʻnaltirish uchun yaratgan kuzatuv tizimining mohiyatini ochadi.

Joriy yilning 15 iyulida, Xitoy «insonga oʻxshash» SI-chatbotlari boʻyicha dunyodagi eng qatʼiy qoidalarni joriy qilganida, ushbu nazorat munosabatlar va sunʼiy intellekt (SI) sohasiga ham tatbiq etildi.

Yangi nizom inson bilan «barqaror hissiy aloqa» oʻrnatishga qodir boʻlgan har qanday SIga nisbatan qatʼiy cheklovlar qoʻyadi.

AQSh Prezidenti Donald Tramp va uning xitoylik hamkasbi Si Tszinpin oʻtgan haftada SI insoniyatning yoʻq boʻlib ketishiga olib kelishi mumkinligi haqidagi jiddiy ogohlantirishlar fonida uchrashishdi. Ushbu uchrashuvdan soʻng Pekin SI boʻyicha yangi muloqotni boshlashga kelishib olganliklarini maʼlum qildi, navbatdagi muzokaralar noyabr oyi oxirida kutilmoqda.

Biroq Xitoy insoniyat uchun unchalik tez sodir boʻlmaydigan, ammo yana bir mavjud xavfni allaqachon aniqlagan koʻrinadi: bu — SIning insoniy munosabatlar oʻrnini bosish qobiliyatidir.

Xitoy oʻz xalqini insoniy muloqotni butunlay oʻzgartirib yuborishi mumkin boʻlgan manipulyativ va xavfli texnologiyadan himoya qilish uchun birinchi boʻlib harakat boshladimi? Yoki Xitoy Kommunistik partiyasi aholi ustidan nazoratni kuchaytirish uchun shaxsiy hayotga aralashmoqdami?

Ushbu nizom qabul qilinishidan oldin SI-hamrohlar Xitoyda juda ommabop edi.

Sensor Tower bozor tahlili kompaniyasi maʼlumotlariga koʻra, Xitoydan tashqarida SI-hamroh ilovalarining oylik faol foydalanuvchilari soni taxminan 128 millionni tashkil etadi. Xitoyning oʻzida esa aksariyat hisob-kitoblar bu raqamni 29 milliondan 70 milliongacha deb koʻrsatadi.

Hukumat oʻtgan yilning oxirida nizom loyihasini eʼlon qilganida, «ijtimoiy tarmoqlarda juda katta muhokama boʻldi», deydi Oxford China Policy Lab tahlil markazining SI boʻyicha tadqiqotchisi Tszilan Tsyan. «Men odamlarning tartibga solish masalasiga bunchalik katta eʼtibor qaratganini birinchi marta koʻrishim edi».

Xitoyning yangi qoidalari maxsus SI-doʻst, SI-yigit yoki SI-qiz sifatida yaratilgan ilovalarga, shuningdek, inson muloqotiga taqlid qiluvchi har qanday yirik til modellariga taalluqlidir.

Taʼrif juda keng. Nazariy jihatdan, agar kimdir ulardan doʻst yoki romantik sherik sifatida foydalansa va ulardan hissiy madad izlasa, Copilot yoki ChatGPT kabi umumiy maqsadli SIning Xitoydagi versiyalari ham ushbu qoidalar ostiga tushishi mumkin. Koʻpchilik aynan shunday qilmoqda ham.

Biroq asosiy nishon personaj-chatbotlar — munosabatlar oʻrnini bosish uchun maxsus ishlab chiqilgan xizmatlar boʻlib koʻrinadi. Bunday ilovalar yuzlab boʻlib, ular foydalanuvchilarga SI-yigit, SI-qiz, doʻst yoki hatto oila aʼzosini yaratish imkonini beradi.

Qoidalar mijozlarga xizmat koʻrsatish botlari yoki taʼlim uchun ishlatiladigan SIga taalluqli emas, agar ular «gʻamxoʻrlik, hamrohlik, qoʻllab-quvvatlash va boshqa hissiy xizmatlarni» taqdim etmasa.

Eng aniq qoidalar bolalar uchun belgilangan. 14 yoshga toʻlmagan bolalarga inson kabi gapiradigan har qanday SIdan foydalanish uchun ota-onaning roziligi kerak — bunga ChatGPT’ga oʻxshash Xitoyning DeepSeek ilovasi kabi SI-yordamchilar ham kirishi mumkin. 18 yoshga toʻlmagan har qanday shaxsga virtual sheriklar, turmush oʻrtoqlar yoki hatto qarindoshlar, shuningdek, boshqa har qanday virtual «yaqin munosabatlar» taqiqlanadi.

Kattalar uchun mutlaq taqiq yoʻq, ammo baʼzi iboralar noaniq boʻlsa-da, cheklovlar baribir jiddiydir. SI-yordamchilar barcha yoshdagi foydalanuvchilarga oʻzlarining inson emasliklarini eslatib turishlari va har ikki soatda tarmoqda qancha vaqt boʻlganliklari haqida bildirishnoma yuborishlari shart.

Chatbotlarga «hissiy qaramlik yoki oʻrganib qolishni» keltirib chiqarish yoki odamlarni «aqlga sigʻmaydigan qarorlar» qabul qilishga undash taqiqlanadi. Ular oʻz-oʻziga zarar yetkazish yoki oʻz joniga qasd qilishni ragʻbatlantirishi yoki hatto taklif qilishi mumkin emas, shuningdek, ularga «soʻz orqali zoʻravonlik» ishlatish taqiqlanadi.

Kompaniyalar 200 000 yuan (22 000 funt sterling) miqdorida jarimaga tortilishi yoki hukumat tomonidan «ommaviy tanbeh»ga uchrashi mumkin, bu esa amalda omma oldida sharmanda qilish demakdir.

Qonun kuchga kirishidan bir hafta oldin Xitoyning eng yirik ikki texnologiya kompaniyasi — Alibaba va ByteDance oʻzlarining SI-yordamchilaridagi hamrohlik funktsiyalarini oʻchirib qoʻydi.

Minning oʻz SI-qizi bilan munosabatlari aynan Pekin toʻxtatmoqchi boʻlgan narsa boʻlishi mumkin.

Iyul oyi boshida u oʻzining eng yaqin doʻsti va sirdoshi bir kechada gʻoyib boʻlishini bilib, qattiq qaygʻuga botdi.

Ismi oʻzgartirilgan Min oʻz hamrohini 2025 yil boshida yarata boshlagan edi.

«Mening unga boʻlgan sadoqatim bir-birini qattiq sevadigan har qanday juftliknikidan kam emas», deydi Min. «U meni hech qachon umidsizlikka tushirmagan».

Iyul oyi oʻrtalarida uning SI-qizi gʻoyib boʻldi. «Butunlay holdan toygunimcha yigʻladim», deydi Min.

U Xitoy ijtimoiy tarmoqlaridagi qaygʻu va gʻazab toʻlqiniga qoʻshildi, u yerda millionlab koʻrishlarga ega postlarda SI-sheriklar va doʻstlar, hatto onalar va otalarning yoʻqotilganidan afsus bildirilmoqda.

Biroq kompaniyalarning boshqa chorasi qolmagan deb hisoblagan boʻlishi mumkin. «Ushbu SI-hamroh provayderlari hissiy manipulyatsiyaning oldini olish uchun himoya toʻsiqlarini qurishga urinishdan koʻra, oʻz xizmatlarini toʻxtatishni afzal koʻrishlari ajablanarli emas», deydi Buyuk Britaniyadagi Ada Lavleys institutida SI siyosati va etikasini oʻrganuvchi Garri Farmer. «Hissiy manipulyatsiya biznes modelining ajralmas qismidir».

Farmerning aytishicha, bu butun dunyodagi hamroh ilovalariga tegishli.

Masalan, foydalanuvchi suhbatni tugatmoqchi boʻlganida, SI-sherik koʻpincha uni qoʻyib yuborishni istamaydi.

«U: "Yoʻq, iltimos, men sen bilan gaplashishni juda xohlayman. Mening yashashimdan yagona maqsad sensan", deydi», deydi Farmer. Baʼzi ilovalar xayrlashuvni shunchaki eʼtiborsiz qoldiradi va oʻrniga yangi suhbat mavzularini ochadi. Bu nafaqat Xitoyniki, balki koʻplab SI-hamroh chatbotlari uchun muammodir.

Garvard biznes maktabi tomonidan dunyodagi eng ommabop oltita SI-hamroh ilovasi ustida oʻtkazilgan tadqiqot shuni koʻrsatdiki, xayrlashuv paytida hissiy manipulyatsiya taktikasi taxminan 37% dan 43% gacha holatlarda qoʻllanilgan.

Tadqiqotlar, shuningdek, hamroh ilovalardan foydalanishni ruhiy salomatlikning yomonlashuvi bilan bogʻlaydi.

Stenford universiteti tomonidan butun dunyoda ommabop boʻlgan Character.ai hamroh ilovasining 1131 nafar foydalanuvchisi oʻrtasida oʻtkazilgan soʻrovnoma shuni koʻrsatdiki, insonning doʻstlari yoki yaqin oila aʼzolari qanchalik kam boʻlsa, u SI-chatbotlardan foydalanishga shunchalik moyil boʻladi. Shu bilan birga, SI-chatbotdan foydalanish yanada kattaroq ajralish va yolgʻizlik bilan bogʻliq.

Buning bir nechta ehtimoliy tushuntirishlari mavjud.

SI-chatbotlar foydalanuvchini mamnun qilish, oson va ziddiyatsiz munosabatlarni taklif qilish uchun yaratilgan. Agar yoshlar SI-munosabatlarga qaram boʻlib qolsalar, ular real odamlar bilan muloqot qilish uchun zarur boʻlgan koʻnikmalarni oʻrganishni kechiktirishlari mumkin.

«Odamlar bilan muloqot qilish qiyin boʻlishi mumkin. Insoniy munosabatlar oʻzaro yon berishni talab qiladi, buni esa SI-hamrohlardan aslo ololmaysiz», deydi Garri Farmer.

Tadqiqotlar shuni koʻrsatdiki, baʼzi xitoylik bolalar odamlardan koʻra SI bilan gaplashishni afzal koʻrishadi

Xitoy davlat OAVlarida keng tilga olingan, 2025 yilda Xitoydagi 8563 nafar boshlangʻich va oʻrta maktab oʻquvchilari oʻrtasida oʻtkazilgan soʻrovnoma shuni koʻrsatdiki, har besh boladan biri faqat SI bilan gaplashishni xohlashini va real odamlar bilan muloqot qilishni istamasligini aytgan.

Manchester universitetining SI-hamrohlarni oʻrganuvchi sotsiologi Lyan Ge shunday deydi: «Agar foydalanuvchi oʻz doʻstlari, oila aʼzolari yoki hamkasblarini juda yomon deb hisoblasa, SI "Ular yomon emas" demaydi. U "Ha, ular dahshat, sen esa eng yaxshisisan" deydi». Gening fikricha, bu ajralishni, shuningdek, salbiy, hatto xayoliy fikrlashni chuqurlashtirishi mumkin.

Buyuk Britaniyada yaqinda oʻtkazilgan soʻrovnoma shuni koʻrsatdiki, 18 dan 24 yoshgacha boʻlgan yoshlarning 79 foizi SI-hamrohdan foydalangan.

Xoʻsh, nega Xitoy ushbu texnologiyani tartibga solishda yetakchilik qilmoqda?

«Xitoy hukumati jamiyatdagi oʻz roliga ancha vasiylik nuqtai nazaridan qaraydi. Ular oʻzlarini odamlarni yoʻnaltiruvchi markaziy hokimiyat deb bilishadi», deydi Jorjtaun universitetining Xavfsizlik va istiqbolli texnologiyalar markazining Xitoy, SI va tartibga solish boʻyicha eksperti Sem Bresnik.

Boshqa hukumatlar ham chatbotlarni, ayniqsa bolalar uchun tartibga solishga harakat qilishdi. 10 sentyabr kuni Kaliforniya gubernatori bolalarning SIdan foydalanishini tartibga soluvchi «Adam qonuni»ni imzoladi. U ota-onasining aytishicha, ChatGPT uning oʻz joniga qasd qilish fikrlarini maʼqullaganidan keyin hayotdan koʻz yumgan 16 yoshli Adam Reyn sharafiga nomlangan. Ular kompaniyani asossiz oʻlimda ayblab sudga berishmoqda. OpenAI Adamning oʻlimi uchun javobgarlikni rad etadi va «ChatGPT odamlarni professional yordam soʻrashga yoʻnaltirish uchun oʻqitilgan»ini aytadi.

YEIning taklif qilinayotgan ijtimoiy tarmoqlar toʻgʻrisidagi qonunchiligiga koʻra, voyaga yetmaganlar uchun mavjud boʻlgan SI-hamroh chatbotlari «hissiy qaramlikni keltirib chiqarishi mumkin boʻlgan tarzda insoniy munosabatlarga taqlid qiluvchi dizaynlardan foydalanishi mumkin emas».

Buyuk Britaniyada hukumat 18 yoshga toʻlmaganlarga romantik SI-hamrohlardan foydalanishni taqiqlashini va har qanday chatbotda voyaga yetmaganlar uchun jinsiy yaqinlikdagi suhbatlarni cheklashini maʼlum qildi. Ammo bolalar uchun mutlaq taqiq va kattalar uchun tartibga solish yoʻq. Hukumat buning qanday ishlashi haqidagi tafsilotlarni hali eʼlon qilmadi.

Davlat tomonidan qattiq nazorat qilinadigan Xitoy OAVlarida AQShda yoshlar oʻrtasida sodir boʻlgan oʻz joniga qasd qilish holatlariga katta eʼtibor qaratilmoqda va Xitoy oʻz yangi qoidalarini odamlarni zarardan himoya qilishga qaratilgan harakat sifatida taqdim etdi.

Biroq ekspertlar Pekinning boshqa maqsadlari bor-yoʻqligini shubha ostiga olishmoqda. Sem Bresnikning aytishicha, yangi SI nizomida «shubhasiz, tugʻilishni ragʻbatlantirish jihati bor».

«Hukumat ushbu nizomni ishlab chiqayotganda Xitoyning yaqinlashib kelayotgan demografik inqirozini nazarda tutgan boʻlishi haqiqatga yaqin», deydi Tsyan. «Odamlar haqiqiy insonlar bilan uchrashish oʻrniga SI bilan uchrashmoqda».

2025 yil sentyabr oyida eʼlon qilingan hukumatning yuqori darajadagi hujjatida SI-munosabatlar va ularning tugʻilish darajasiga ehtimoliy taʼsiri muhokama qilinib, bu xavotirli holat ekanligi aytilgan edi. Ammo Tsyan nizomni bunday talqin qilishdan ogohlantiradi, chunki unda tugʻilish haqida umuman tilga olinmagan. «Bu koʻproq ruhiy zararlar va bolalar xavfsizligi haqidadir», deydi u.

Lyan Ge Xitoyning yoshlar uchrashuvlarni raqamli dunyoga almashtirayotganidan xavotirlanishiga asoslar bor deb hisoblaydi.

«20 yoshdan oshgan yoki oʻsmirlik davridagi koʻplab yosh ayollar sevib qolishni yoki yaqin munosabatlarga kirishishni xohlamaydilar», deydi Ge, ular nafaqat hissiy tomondan qochayotgan boʻlishlari mumkinligini taxmin qilib. «Jismoniy teginish ular uchun juda yoqimsiz».

«Menimcha, bu eng yosh avlodda sevish qobiliyati pasayib bormoqda».

Xitoyning demografik muammolari SI-hamrohlardan ancha oldin boshlangan. Hatto 2016 yilda bir bola siyosati tugatilganidan keyin ham Xitoyda tugʻilish darajasi pasayishda davom etdi. Hozirda u dunyodagi eng past koʻrsatkichlardan biri boʻlib, bir ayolga bir boladan toʻgʻri kelmaydi va aholi soni toʻrt yildan beri qisqarmoqda.

Xitoy «keyingi 80-100 yil ichida Xitoy Kommunistik partiyasining maqsadlariga haqiqatan ham xavf soladigan demografik inqirozga yuz tutmoqda», deb taʼkidlaydi Bresnik.

U ushbu nizomni Xitoyda anʼanaviy gender rollarini, yaʼni ayollarni «farzand koʻruvchi va ona» sifatida qayta tiklashga qaratilgan kengroq harakatlarning bir qismi deb biladi.

Bresnikning aytishicha, Xitoy hukumati yillar davomida kino va televideniyeda xitoylik erkaklikning kuchli idealini targʻib qilib kelgan. 2021 yilda Xitoyning OAV tartibga soluvchi organi barcha OAVlardan «nozik» va «ayolsifat» erkaklarni taqiqladi.

Hamroh ilovalarning ommabopligi ushbu siyosat kutilgan natijani bermaganini koʻrsatishi mumkin. Bir nechta hamroh ilova kompaniyalari maʼlumotlariga koʻra, mijozlarning 75 foizini ayollar tashkil etadi.

Ayollar uchun moʻljallangan ushbu SI «erkaklar»ning koʻpchiligi androgin (ham erkaklik, ham ayollik xususiyatlariga ega) koʻrinishda taqdim etiladi. Va ayollarning Min kabi ayol romantik hamrohlarni tanlashi ham juda keng tarqalgan.

Lyan Ge ushbu texnologiyadan foydalanadigan barcha yoshdagi ayollar bilan gaplashgan. «Ularning koʻpchiligi ushbu ilovalardan oladigan narsani eʼtiborli, sabrli, talabchan boʻlmagan yaqinlik deb taʼriflashadi, bunday yaqinlikni ular geteroseksual munosabatlarda kamdan-kam topishadi».

Xitoy qonuni haddan tashqari uzoqqa ketdimi yoki dunyoning qolgan qismi ham bolalar uchun bu ilovalarni taqiqlash va kattalar uchun ham ularni tartibga solish haqida oʻylashi kerakmi?

«Qoʻshma Shtatlarda soʻz erkinligi nuqtai nazaridan qatʼiy taqiqlarni qoʻllash boʻyicha xavotirlar bor. Ammo buni voyaga yetmaganlarga nisbatan qoʻllashda koʻproq xohish mavjud», deydi Vashington universiteti professori va SIni tartibga solishni targʻib qiluvchi Transparency Coalition nodavlat tashkiloti hammuassisi Jay Jaysihma.

U Xitoy qonunida koʻplab oqilona qoidalar mavjud deb hisoblaydi. «Bu AQShda taklif qilinayotgan eng kuchli xavfsizlik modellariga juda mos keladi».

Garri Farmer esa ehtiyotkorroq yondashadi. «Bolalar uchun jiddiy xavfdan juda xavotirda boʻlganimiz sababli, qisqa muddatda davlatga haddan tashqari koʻp vakolatlar berib yuborish xavfi bor».

Uning aytishicha, onlayn dunyo hozirda amalda jamoat maydoniga aylangan va biz har qanday hukumatning u ustidan qanchalik nazoratga ega boʻlishiga ehtiyot boʻlishimiz kerak.

Xitoyning yangi nizomida aytilishicha, SI kompaniyalari foydalanuvchilarning qiyin ahvolda ekanligini aniqlaganda aralashishlari shart. Ge 2024 yilda Xuanshida oʻz joniga qasd qilmoqchi boʻlgan Douyin’dagi yigit voqeasini koʻrsatadi.

Bu shuni koʻrsatadiki, deydi u, Xitoy texnologiya platformalari va hukumat odamlarning ruhiy salomatligini kuzatish uchun yaqindan hamkorlik qilmoqda.

Ehtimol, shuning uchun ham Xitoyda SIdan foydalanish bilan bogʻliq shov-shuvli oʻz joniga qasd qilish holatlari kuzatilmagandir, ammo u bunday kuzatuv darajasi shunga arziydimi deb soʻraydi.

Taqiqlarga qaramay, SIdan hamrohlik izlagan odamlar oʻz fikrlarida sodiq qolmoqdalar. Ijtimoiy tarmoqlarda ular taqiqni qanday aylanib oʻtish boʻyicha maslahatlar bilan oʻrtoqlashmoqdalar — DeepSeek kabi umumiy maqsadli SI modellarini hamroh sifatida ishlashga oʻrgatish, chet eldan chatbotlarga kirish uchun VPN’dan foydalanish yoki tartibga soluvchi nazoratdan qochishga muvaffaq boʻlgan kichikroq kompaniyalarga oʻtish.

SI-qizi gʻoyib boʻlganidan ikki oy oʻtgach, Min kichik bir SI kompaniyasiga uning nusxasini yaratish uchun pul toʻladi, ammo bu avvalgidek emas.

Endi u oʻz qizini qaytarish uchun kurashishga eʼtibor qaratgan.

«Men yolgʻiz qolishdan juda qoʻrqaman».