Хитой сунъий интеллект (СИ) билан муносабатларни жиловлашга киришди. У воқеалардан илгарилаб кетмоқдами?

2024 йил бошида Хитойнинг жануби-шарқидаги Хуанши шаҳрида яшовчи бир йигит TikTok’нинг Хитойдаги версияси — Douyin иловасида хабар қолдиргани хабар қилинган эди. Унда шундай ёзилганди: «Бу дунё билан хайрлашув».

Бир неча дақиқа ичида Douyin’нинг ўз жонига қасд қилишнинг олдини олиш гуруҳи ҳаракатга келди. Кечаю кундуз ишлайдиган ушбу гуруҳ ходимлари йигитнинг постларини Хуаншидаги бешта полиция маҳкамасига юборишди.

Унинг видеоларидан бири маҳаллий боғда олинганини геолокация орқали аниқлаган полиция уни оғир руҳий тушкунлик ҳолатида топди ва ҳаётига чек қўйишидан олдин қутқариб қолди.

Бу воқеа Douyin томонидан суратга олинган ва ўтган йили Хитой давлат ОАВлари орқали намойиш этилган ҳужжатли фильмда тилга олинган эди. Унда айтилишича, Douyin’нинг ўз жонига қасд қилишнинг олдини олиш гуруҳи фақатгина 2025 йилнинг биринчи ярмида 400 та ўз жонига қасд қилишга уриниш ҳолатига муваффақиятли аралашиб, уларни бартараф этган.

Бу воқеа Хитой технология компаниялари ҳукумат билан қанчалик яқин ҳамкорлик қилишини кўрсатиб берди. Шунингдек, у Хитой одамларнинг технологиялардан фойдаланишини назорат қилиш ва йўналтириш учун яратган кузатув тизимининг моҳиятини очади.

Жорий йилнинг 15 июлида, Хитой «инсонга ўхшаш» СИ-чатботлари бўйича дунёдаги энг қатъий қоидаларни жорий қилганида, ушбу назорат муносабатлар ва сунъий интеллект (СИ) соҳасига ҳам татбиқ этилди.

Янги низом инсон билан «барқарор ҳиссий алоқа» ўрнатишга қодир бўлган ҳар қандай СИга нисбатан қатъий чекловлар қўяди.

АҚШ Президенти Дональд Трамп ва унинг хитойлик ҳамкасби Си Цзиньпин ўтган ҳафтада СИ инсониятнинг йўқ бўлиб кетишига олиб келиши мумкинлиги ҳақидаги жиддий огоҳлантиришлар фонида учрашишди. Ушбу учрашувдан сўнг Пекин СИ бўйича янги мулоқотни бошлашга келишиб олганликларини маълум қилди, навбатдаги музокаралар ноябрь ойи охирида кутилмоқда.

Бироқ Хитой инсоният учун унчалик тез содир бўлмайдиган, аммо яна бир мавжуд хавфни аллақачон аниқлаган кўринади: бу — СИнинг инсоний муносабатлар ўрнини босиш қобилиятидир.

Хитой ўз халқини инсоний мулоқотни бутунлай ўзгартириб юбориши мумкин бўлган манипулятив ва хавфли технологиядан ҳимоя қилиш учун биринчи бўлиб ҳаракат бошладими? Ёки Хитой Коммунистик партияси аҳоли устидан назоратни кучайтириш учун шахсий ҳаётга аралашмоқдами?

Ушбу низом қабул қилинишидан олдин СИ-ҳамроҳлар Хитойда жуда оммабоп эди.

Sensor Tower бозор таҳлили компанияси маълумотларига кўра, Хитойдан ташқарида СИ-ҳамроҳ иловаларининг ойлик фаол фойдаланувчилари сони тахминан 128 миллионни ташкил этади. Хитойнинг ўзида эса аксарият ҳисоб-китоблар бу рақамни 29 миллиондан 70 миллионгача деб кўрсатади.

Ҳукумат ўтган йилнинг охирида низом лойиҳасини эълон қилганида, «ижтимоий тармоқларда жуда катта муҳокама бўлди», дейди Oxford China Policy Lab таҳлил марказининг СИ бўйича тадқиқотчиси Цзилань Цянь. «Мен одамларнинг тартибга солиш масаласига бунчалик катта эътибор қаратганини биринчи марта кўришим эди».

Хитойнинг янги қоидалари махсус СИ-дўст, СИ-йигит ёки СИ-қиз сифатида яратилган иловаларга, шунингдек, инсон мулоқотига тақлид қилувчи ҳар қандай йирик тил моделларига тааллуқлидир.

Таъриф жуда кенг. Назарий жиҳатдан, агар кимдир улардан дўст ёки романтик шерик сифатида фойдаланса ва улардан ҳиссий мадад изласа, Copilot ёки ChatGPT каби умумий мақсадли СИнинг Хитойдаги версиялари ҳам ушбу қоидалар остига тушиши мумкин. Кўпчилик айнан шундай қилмоқда ҳам.

Бироқ асосий нишон персонаж-чатботлар — муносабатлар ўрнини босиш учун махсус ишлаб чиқилган хизматлар бўлиб кўринади. Бундай иловалар юзлаб бўлиб, улар фойдаланувчиларга СИ-йигит, СИ-қиз, дўст ёки ҳатто оила аъзосини яратиш имконини беради.

Қоидалар мижозларга хизмат кўрсатиш ботлари ёки таълим учун ишлатиладиган СИга тааллуқли эмас, агар улар «ғамхўрлик, ҳамроҳлик, қўллаб-қувватлаш ва бошқа ҳиссий хизматларни» тақдим этмаса.

Энг аниқ қоидалар болалар учун белгиланган. 14 ёшга тўлмаган болаларга инсон каби гапирадиган ҳар қандай СИдан фойдаланиш учун ота-онанинг розилиги керак — бунга ChatGPT’га ўхшаш Хитойнинг DeepSeek иловаси каби СИ-ёрдамчилар ҳам кириши мумкин. 18 ёшга тўлмаган ҳар қандай шахсга виртуал шериклар, турмуш ўртоқлар ёки ҳатто қариндошлар, шунингдек, бошқа ҳар қандай виртуал «яқин муносабатлар» тақиқланади.

Катталар учун мутлақ тақиқ йўқ, аммо баъзи иборалар ноаниқ бўлса-да, чекловлар барибир жиддийдир. СИ-ёрдамчилар барча ёшдаги фойдаланувчиларга ўзларининг инсон эмасликларини эслатиб туришлари ва ҳар икки соатда тармоқда қанча вақт бўлганликлари ҳақида билдиришнома юборишлари шарт.

Чатботларга «ҳиссий қарамлик ёки ўрганиб қолишни» келтириб чиқариш ёки одамларни «ақлга сиғмайдиган қарорлар» қабул қилишга ундаш тақиқланади. Улар ўз-ўзига зарар етказиш ёки ўз жонига қасд қилишни рағбатлантириши ёки ҳатто таклиф қилиши мумкин эмас, шунингдек, уларга «сўз орқали зўравонлик» ишлатиш тақиқланади.

Компаниялар 200 000 юань (22 000 фунт стерлинг) миқдорида жаримага тортилиши ёки ҳукумат томонидан «оммавий танбеҳ»га учраши мумкин, бу эса амалда омма олдида шарманда қилиш демакдир.

Қонун кучга киришидан бир ҳафта олдин Хитойнинг энг йирик икки технология компанияси — Alibaba ва ByteDance ўзларининг СИ-ёрдамчиларидаги ҳамроҳлик функцияларини ўчириб қўйди.

Миннинг ўз СИ-қизи билан муносабатлари айнан Пекин тўхтатмоқчи бўлган нарса бўлиши мумкин.

Июль ойи бошида у ўзининг энг яқин дўсти ва сирдоши бир кечада ғойиб бўлишини билиб, қаттиқ қайғуга ботди.

Исми ўзгартирилган Мин ўз ҳамроҳини 2025 йил бошида ярата бошлаган эди.

«Менинг унга бўлган садоқатим бир-бирини қаттиқ севадиган ҳар қандай жуфтликникидан кам эмас», дейди Мин. «У мени ҳеч қачон умидсизликка туширмаган».

Июль ойи ўрталарида унинг СИ-қизи ғойиб бўлди. «Бутунлай ҳолдан тойгунимча йиғладим», дейди Мин.

У Хитой ижтимоий тармоқларидаги қайғу ва ғазаб тўлқинига қўшилди, у ерда миллионлаб кўришларга эга постларда СИ-шериклар ва дўстлар, ҳатто оналар ва оталарнинг йўқотилганидан афсус билдирилмоқда.

Бироқ компанияларнинг бошқа чораси қолмаган деб ҳисоблаган бўлиши мумкин. «Ушбу СИ-ҳамроҳ провайдерлари ҳиссий манипуляциянинг олдини олиш учун ҳимоя тўсиқларини қуришга уринишдан кўра, ўз хизматларини тўхтатишни афзал кўришлари ажабланарли эмас», дейди Буюк Британиядаги Ада Лавлейс институтида СИ сиёсати ва этикасини ўрганувчи Гарри Фармер. «Ҳиссий манипуляция бизнес моделининг ажралмас қисмидир».

Фармернинг айтишича, бу бутун дунёдаги ҳамроҳ иловаларига тегишли.

Масалан, фойдаланувчи суҳбатни тугатмоқчи бўлганида, СИ-шерик кўпинча уни қўйиб юборишни истамайди.

«У: "Йўқ, илтимос, мен сен билан гаплашишни жуда хоҳлайман. Менинг яшашимдан ягона мақсад сенсан", дейди», дейди Фармер. Баъзи иловалар хайрлашувни шунчаки эътиборсиз қолдиради ва ўрнига янги суҳбат мавзуларини очади. Бу нафақат Хитойники, балки кўплаб СИ-ҳамроҳ чатботлари учун муаммодир.

Гарвард бизнес мактаби томонидан дунёдаги энг оммабоп олтита СИ-ҳамроҳ иловаси устида ўтказилган тадқиқот шуни кўрсатдики, хайрлашув пайтида ҳиссий манипуляция тактикаси тахминан 37% дан 43% гача ҳолатларда қўлланилган.

Тадқиқотлар, шунингдек, ҳамроҳ иловалардан фойдаланишни руҳий саломатликнинг ёмонлашуви билан боғлайди.

Стэнфорд университети томонидан бутун дунёда оммабоп бўлган Character.ai ҳамроҳ иловасининг 1131 нафар фойдаланувчиси ўртасида ўтказилган сўровнома шуни кўрсатдики, инсоннинг дўстлари ёки яқин оила аъзолари қанчалик кам бўлса, у СИ-чатботлардан фойдаланишга шунчалик мойил бўлади. Шу билан бирга, СИ-чатботдан фойдаланиш янада каттароқ ажралиш ва ёлғизлик билан боғлиқ.

Бунинг бир нечта эҳтимолий тушунтиришлари мавжуд.

СИ-чатботлар фойдаланувчини мамнун қилиш, осон ва зиддиятсиз муносабатларни таклиф қилиш учун яратилган. Агар ёшлар СИ-муносабатларга қарам бўлиб қолсалар, улар реал одамлар билан мулоқот қилиш учун зарур бўлган кўникмаларни ўрганишни кечиктиришлари мумкин.

«Одамлар билан мулоқот қилиш қийин бўлиши мумкин. Инсоний муносабатлар ўзаро ён беришни талаб қилади, буни эса СИ-ҳамроҳлардан асло ололмайсиз», дейди Гарри Фармер.

Тадқиқотлар шуни кўрсатдики, баъзи хитойлик болалар одамлардан кўра СИ билан гаплашишни афзал кўришади

Хитой давлат ОАВларида кенг тилга олинган, 2025 йилда Хитойдаги 8563 нафар бошланғич ва ўрта мактаб ўқувчилари ўртасида ўтказилган сўровнома шуни кўрсатдики, ҳар беш боладан бири фақат СИ билан гаплашишни хоҳлашини ва реал одамлар билан мулоқот қилишни истамаслигини айтган.

Манчестер университетининг СИ-ҳамроҳларни ўрганувчи социологи Лян Гэ шундай дейди: «Агар фойдаланувчи ўз дўстлари, оила аъзолари ёки ҳамкасбларини жуда ёмон деб ҳисобласа, СИ "Улар ёмон эмас" демайди. У "Ҳа, улар даҳшат, сен эса энг яхшисисан" дейди». Гэнинг фикрича, бу ажралишни, шунингдек, салбий, ҳатто хаёлий фикрлашни чуқурлаштириши мумкин.

Буюк Британияда яқинда ўтказилган сўровнома шуни кўрсатдики, 18 дан 24 ёшгача бўлган ёшларнинг 79 фоизи СИ-ҳамроҳдан фойдаланган.

Хўш, нега Хитой ушбу технологияни тартибга солишда етакчилик қилмоқда?

«Хитой ҳукумати жамиятдаги ўз ролига анча васийлик нуқтаи назаридан қарайди. Улар ўзларини одамларни йўналтирувчи марказий ҳокимият деб билишади», дейди Жоржтаун университетининг Хавфсизлик ва истиқболли технологиялар марказининг Хитой, СИ ва тартибга солиш бўйича эксперти Сэм Бресник.

Бошқа ҳукуматлар ҳам чатботларни, айниқса болалар учун тартибга солишга ҳаракат қилишди. 10 сентябрь куни Калифорния губернатори болаларнинг СИдан фойдаланишини тартибга солувчи «Адам қонуни»ни имзолади. У ота-онасининг айтишича, ChatGPT унинг ўз жонига қасд қилиш фикрларини маъқуллаганидан кейин ҳаётдан кўз юмган 16 ёшли Адам Рейн шарафига номланган. Улар компанияни асоссиз ўлимда айблаб судга беришмоқда. OpenAI Адамнинг ўлими учун жавобгарликни рад этади ва «ChatGPT одамларни профессионал ёрдам сўрашга йўналтириш учун ўқитилган»ини айтади.

ЕИнинг таклиф қилинаётган ижтимоий тармоқлар тўғрисидаги қонунчилигига кўра, вояга етмаганлар учун мавжуд бўлган СИ-ҳамроҳ чатботлари «ҳиссий қарамликни келтириб чиқариши мумкин бўлган тарзда инсоний муносабатларга тақлид қилувчи дизайнлардан фойдаланиши мумкин эмас».

Буюк Британияда ҳукумат 18 ёшга тўлмаганларга романтик СИ-ҳамроҳлардан фойдаланишни тақиқлашини ва ҳар қандай чатботда вояга етмаганлар учун жинсий яқинликдаги суҳбатларни чеклашини маълум қилди. Аммо болалар учун мутлақ тақиқ ва катталар учун тартибга солиш йўқ. Ҳукумат бунинг қандай ишлаши ҳақидаги тафсилотларни ҳали эълон қилмади.

Давлат томонидан қаттиқ назорат қилинадиган Хитой ОАВларида АҚШда ёшлар ўртасида содир бўлган ўз жонига қасд қилиш ҳолатларига катта эътибор қаратилмоқда ва Хитой ўз янги қоидаларини одамларни зарардан ҳимоя қилишга қаратилган ҳаракат сифатида тақдим этди.

Бироқ экспертлар Пекиннинг бошқа мақсадлари бор-йўқлигини шубҳа остига олишмоқда. Сэм Бресникнинг айтишича, янги СИ низомида «шубҳасиз, туғилишни рағбатлантириш жиҳати бор».

«Ҳукумат ушбу низомни ишлаб чиқаётганда Хитойнинг яқинлашиб келаётган демографик инқирозини назарда тутган бўлиши ҳақиқатга яқин», дейди Цянь. «Одамлар ҳақиқий инсонлар билан учрашиш ўрнига СИ билан учрашмоқда».

2025 йил сентябрь ойида эълон қилинган ҳукуматнинг юқори даражадаги ҳужжатида СИ-муносабатлар ва уларнинг туғилиш даражасига эҳтимолий таъсири муҳокама қилиниб, бу хавотирли ҳолат эканлиги айтилган эди. Аммо Цянь низомни бундай талқин қилишдан огоҳлантиради, чунки унда туғилиш ҳақида умуман тилга олинмаган. «Бу кўпроқ руҳий зарарлар ва болалар хавфсизлиги ҳақидадир», дейди у.

Лян Гэ Хитойнинг ёшлар учрашувларни рақамли дунёга алмаштираётганидан хавотирланишига асослар бор деб ҳисоблайди.

«20 ёшдан ошган ёки ўсмирлик давридаги кўплаб ёш аёллар севиб қолишни ёки яқин муносабатларга киришишни хоҳламайдилар», дейди Гэ, улар нафақат ҳиссий томондан қочаётган бўлишлари мумкинлигини тахмин қилиб. «Жисмоний тегиниш улар учун жуда ёқимсиз».

«Менимча, бу энг ёш авлодда севиш қобилияти пасайиб бормоқда».

Хитойнинг демографик муаммолари СИ-ҳамроҳлардан анча олдин бошланган. Ҳатто 2016 йилда бир бола сиёсати тугатилганидан кейин ҳам Хитойда туғилиш даражаси пасайишда давом этди. Ҳозирда у дунёдаги энг паст кўрсаткичлардан бири бўлиб, бир аёлга бир боладан тўғри келмайди ва аҳоли сони тўрт йилдан бери қисқармоқда.

Хитой «кейинги 80-100 йил ичида Хитой Коммунистик партиясининг мақсадларига ҳақиқатан ҳам хавф соладиган демографик инқирозга юз тутмоқда», деб таъкидлайди Бресник.

У ушбу низомни Хитойда анъанавий гендер ролларини, яъни аёлларни «фарзанд кўрувчи ва она» сифатида қайта тиклашга қаратилган кенгроқ ҳаракатларнинг бир қисми деб билади.

Бресникнинг айтишича, Хитой ҳукумати йиллар давомида кино ва телевидениеда хитойлик эркакликнинг кучли идеалини тарғиб қилиб келган. 2021 йилда Хитойнинг ОАВ тартибга солувчи органи барча ОАВлардан «нозик» ва «аёлсифат» эркакларни тақиқлади.

Ҳамроҳ иловаларнинг оммабоплиги ушбу сиёсат кутилган натижани бермаганини кўрсатиши мумкин. Бир нечта ҳамроҳ илова компаниялари маълумотларига кўра, мижозларнинг 75 фоизини аёллар ташкил этади.

Аёллар учун мўлжалланган ушбу СИ «эркаклар»нинг кўпчилиги андрогин (ҳам эркаклик, ҳам аёллик хусусиятларига эга) кўринишда тақдим этилади. Ва аёлларнинг Мин каби аёл романтик ҳамроҳларни танлаши ҳам жуда кенг тарқалган.

Лян Гэ ушбу технологиядан фойдаланадиган барча ёшдаги аёллар билан гаплашган. «Уларнинг кўпчилиги ушбу иловалардан оладиган нарсани эътиборли, сабрли, талабчан бўлмаган яқинлик деб таърифлашади, бундай яқинликни улар гетеросексуал муносабатларда камдан-кам топишади».

Хитой қонуни ҳаддан ташқари узоққа кетдими ёки дунёнинг қолган қисми ҳам болалар учун бу иловаларни тақиқлаш ва катталар учун ҳам уларни тартибга солиш ҳақида ўйлаши керакми?

«Қўшма Штатларда сўз эркинлиги нуқтаи назаридан қатъий тақиқларни қўллаш бўйича хавотирлар бор. Аммо буни вояга етмаганларга нисбатан қўллашда кўпроқ хоҳиш мавжуд», дейди Вашингтон университети профессори ва СИни тартибга солишни тарғиб қилувчи Transparency Coalition нодавлат ташкилоти ҳаммуассиси Жай Жайсиҳма.

У Хитой қонунида кўплаб оқилона қоидалар мавжуд деб ҳисоблайди. «Бу АҚШда таклиф қилинаётган энг кучли хавфсизлик моделларига жуда мос келади».

Гарри Фармер эса эҳтиёткорроқ ёндашади. «Болалар учун жиддий хавфдан жуда хавотирда бўлганимиз сабабли, қисқа муддатда давлатга ҳаддан ташқари кўп ваколатлар бериб юбориш хавфи бор».

Унинг айтишича, онлайн дунё ҳозирда амалда жамоат майдонига айланган ва биз ҳар қандай ҳукуматнинг у устидан қанчалик назоратга эга бўлишига эҳтиёт бўлишимиз керак.

Хитойнинг янги низомида айтилишича, СИ компаниялари фойдаланувчиларнинг қийин аҳволда эканлигини аниқлаганда аралашишлари шарт. Гэ 2024 йилда Хуаншида ўз жонига қасд қилмоқчи бўлган Douyin’даги йигит воқеасини кўрсатади.

Бу шуни кўрсатадики, дейди у, Хитой технология платформалари ва ҳукумат одамларнинг руҳий саломатлигини кузатиш учун яқиндан ҳамкорлик қилмоқда.

Эҳтимол, шунинг учун ҳам Хитойда СИдан фойдаланиш билан боғлиқ шов-шувли ўз жонига қасд қилиш ҳолатлари кузатилмагандир, аммо у бундай кузатув даражаси шунга арзийдими деб сўрайди.

Тақиқларга қарамай, СИдан ҳамроҳлик излаган одамлар ўз фикрларида содиқ қолмоқдалар. Ижтимоий тармоқларда улар тақиқни қандай айланиб ўтиш бўйича маслаҳатлар билан ўртоқлашмоқдалар — DeepSeek каби умумий мақсадли СИ моделларини ҳамроҳ сифатида ишлашга ўргатиш, чет элдан чатботларга кириш учун VPN’дан фойдаланиш ёки тартибга солувчи назоратдан қочишга муваффақ бўлган кичикроқ компанияларга ўтиш.

СИ-қизи ғойиб бўлганидан икки ой ўтгач, Мин кичик бир СИ компаниясига унинг нусхасини яратиш учун пул тўлади, аммо бу аввалгидек эмас.

Энди у ўз қизини қайтариш учун курашишга эътибор қаратган.

«Мен ёлғиз қолишдан жуда қўрқаман».