“Моделлар — шунчаки кетма-кетликларни якунловчи, ичи бўш механизмлар”. СИ инсондек фикрлаш ва ҳис қилиш қобилиятига эгами?

“Моделлар — шунчаки кетма-кетликларни якунловчи, ичи бўш механизмлар”. СИ инсондек фикрлаш ва ҳис қилиш қобилиятига эгами?

Бугун сунъий интеллектда ақл борми ва у ҳис қила оладими, деган савол атрофида йирик технологик компаниялар, олимлар, ҳатто диний марказлар орасида қизғин мунозаралар кетмоқда. Баҳсларда бир тараф ҳозирги моделлар аллақачон онгли эканини даъво қилса, бошқа тараф моделларга ҳис-туйғу, муайян манфаатлар ва ҳуқуққа эга мавжудот сифатида қараш асоссиз эканини, бу эса сунъий интеллектни назорат қилишни янада мураккаблаштиришини айтади. Бу масалада олимлар ҳам ҳали якдил фикрга келгани йўқ.

8-октабр куни Антҳропис фойдаланиш қоидаларига ўз моделларига нисбатан мунтазам ва сабабсиз шафқацизликни тақиқловчи банд қўшилганини маълум қилди (12-ноябрдан кучга киради): сиз баҳслашишингиз, уришишингиз, ғазабланишингиз мумкин, аммо нейротармоқни эрмак учун қийнаш мумкин эмас. Бундай вазиятда модел шунчаки суҳбатни тугатади. Бу имконият унга бир йил аввал берилган эди, бироқ инсон томонидан қилинган тажовуз энди расмий қоидабузарлик сифатида тан олинди.

Кўплаб компаниялар моделларнинг ички тузилишини ўрганади, бироқ Медуза ёзишича, уларнинг манфаатлари ҳақидаги бўлим фақат Антҳрописъда бор. Ушбу компания маҳсулоти Слаудеънинг Конституциясига эса, агар модел ростдан ҳам азият чекишга қодир бўлса деган фараздан келиб чиқиб, яратувчилар ҳатто сунъий интеллектдан узр сўраш бандини ҳам киритишган.

Шундай қилиб, имкониятлари тобора кенгайиб бораётган сунъий интеллектда ҳақиқатан ҳам онг борми, у чинакамига ниманидир ҳис қиладими, деган савол очиқ қолмоқда. Қолаверса, бу энди фақат назарий масала эмас. Чунки унинг жавоби қоидалар ва маҳсулотларга таъсир қила бошлади. Медуза замонавий нейротармоқларнинг фикрлаш жараёни, уларда шахсият ва характер бўлиши эҳтимоли ҳамда бошқа шу каби саволларга журналист ва СИ ҳақидаги блог муаллифи Майя Стравинскаядан жавоб олиб, катта материал эълон қилди.

Сунъий интеллектда ақл йўқ. Айни пайтда бор ҳам. Ҳаммаси ақлга қандай таъриф беришимизга боғлиқ. Бу борада эса бизда катта муаммолар бор.

Шу сабаб битта эмас, учта савол қўйиш тўғрироқ бўлади: СИ фикрлай оладими, у ниманидир ҳис қиладими ва унинг шахсияти борми?

Биринчисидан бошлаймиз.

Агар ақл мулоҳаза юритиш, янги масалаларни ечиш, фаразларни илгари суриш ва текшириш қобилияти бўлса, жавоб — “ҳа”. Мутахассислар орасидаги баҳс энди моделларда бу кўникма бор-йўқлиги устида эмас, балки унинг қанчалик чуқур ва ишончли экани ҳақида кетмоқда.

Олимлар аниқ далилларга таянади. Қуйида айрим мисолларни санаймиз:

Бу ерда скептиклар одатда шундай дейди: “Модел шунчаки кейинги жавобнинг эҳтимоллигини баҳолаб, уни олдиндан тахмин қилади, холос”. Бироқ бу нотўғри фикр. Сўзларни саралаш — сунъий интеллектни ўқитишда қўлланиладиган усуллардан бири, холос. Аслида эса сунъий интеллект бутунлай бошқача ишлайди ва у берадиган якуний натижа анча қизиқроқ.

Биринчидан, сўзларнинг эҳтимолликлари моделнинг ҳеч бир жойида сақланмайди: улар ҳар сафар вазнлар, яъни ўқитиш жараёнида созланган юз миллиардлаб сонлар ҳамда суҳбатнинг умумий контекстидан — гап нима ҳақида ва ким билан кетаётганидан келиб чиқиб қайта ҳисобланади.

Иккинчидан, 2024-йил кузидан бери замонавий моделлар фақат кейинги матнни тахмин қилиш усули билан ўқитилмаяпти. Бунга қўшимча босқич қўшилди: жавобини текшириб кўриш мумкин бўлган масалалар асосида ўқитиш. Модел вазифани қабул қилади, бирор ёндашувни синаб кўради, узун мулоҳазалар занжирини ёзади ва агар хато топса, орқага қайтиб, бошқа вариантни синайди. У матннинг силлиқлиги учун эмас, балки тўғри якуний натижа учун рағбатлантирилади.

Дастлаб бу усулни ОпенАИ қўллаган эди, 2025-йил январида эса ДеепСеек компанияси айни шу тамойил асосида ўқитилган ўз моделини тақдим этди ва уни яратиш технологиясини очиқ манбага жойлаштирди — шундан сўнг бу усулни ҳамма такрорлай бошлади.

Ушбу ўқитиш усулининг бутун моҳиятини ДеепСеек дастурчилари тушунтириб берган. Уларнинг сунъий интеллект ўз хатоларини қандай топиши ҳақидаги мақоласида қуйидаги иқтибос келтирилади (модел буни масалани ечиш жараёнининг қоқ ўртасида ёзган): “Ваит, ваит. Ваит. Тҳатъс ан аҳа момент И сан флаг ҳере. Летъс реевалуате тҳис степ-бй-степ” — “Тўхта, тўхта. Тўхта. Мана, бу ерда фикр ярқ этиб очилган лаҳзани қайд этишим мумкин. Келинг, ҳаммасини қадам-бақадам қайта баҳолаб чиқамиз”. Ваҳоланки, бундай кўрсатмалар модел кодига дастлаб киритилмаган эди.

Шундай экан, энди моделнинг жавобини шунчаки эҳтимолий сўзлар терими деб бўлмайди. Худди шу мантиқ билан инсон тафаккурини ҳам нейронлар ўртасидаги оддий электр импулсларига йўйиб қўйиш мумкин.

Энг ғалати жойи мана шунда.

2026-йил апрел ойида Антҳропис компаниясининг тушунарлиликни тадқиқ этиш бўлимида (Интерпретабилитй Теам) шундай тадқиқот ўтказилди: “бахтиёр”дан тортиб “хўмрайган”гача бўлган ҳиссий ҳолатни англатувчи 171 та сўз танлаб олинди ва Слаудеъдан уларнинг ҳар бири ҳақида биттадан қисқа ҳикоя ёзиш сўралди. Сўнгра бу матнлар моделнинг ўзидан ўтказилиб, унинг ичида ҳар бир ҳиссиётга қандай фаоллик чизмаси мос келиши қайд этиб борилди. Натижада 171 та ҳиссиёт вектори ҳосил бўлди.

Фаоллик чизмасини аниқлаш, масалан, қон таҳлилига ўхшайди. Модел матнни қайта ишлаётганда, унинг ичида ҳар бир сўз учун узун сонлар устуни — бир неча минглаб қийматлар пайдо бўлади. Бош мия нейронлари қандай фаоллашса, булар ҳам шунга қиёсан фаоллашувлар деб аталади. Матннинг исталган парчаси учун рақамли қолип олиш — қайси параметрлар юқори, қайсилари паст ва улар қандай комбинацияда эканини кўриш мумкин. Айнан шундай қолип фаоллик чизмаси дейилади. Бу битта аниқ қиймат эмас, балки бармоқ изини эслатувчи минглаб рақамларнинг ўзига хос уйғунлигидир.

Тадқиқотчилар қўрқув ҳақидаги ўнлаб ҳикояларнинг бундай рақамли изларини бошқа кечинмалар ва нейтрал нарсалар кўрсаткичлари билан солиштириб кўришди. Маълум бўлишича, “қўрқув” ўзининг барқарор йўналишига эга экан: матнда қўрқув ўринли бўлганда муайян сонлар комбинацияси барқарор равишда юқори, аксинча бўлганда эса паст бўлади. Бу математик қонуниятни қўрқув вектори деб аташди. Энди ҳар қандай янги матн мисолида унинг профили ушбу йўналишга қанчалик мос келишини текшириб кўриш мумкин — натижада модел ичида айни дамда қанчалик қўрқув борлигини кўрсатувчи аниқ қиймат келиб чиқади.

МРТни тасаввур қилинг (бу ўхшатишни Антҳропис жамоасининг ўзи таклиф қилмоқда)! Нейробиолог одамга юз қиёфаларини кўрсатиб, айни шу лаҳзада миянинг қайси қисмлари фаоллашаётганини кузатади. Кейин эса янги тасвирга қараб, синалувчи ҳозир юзни кўряптими ёки йўқми, айта олади. Аммо тирик миядаги фаоллик билвосита белги — томирларга қон қуйилиши орқали аниқланса, рақамли моделда тадқиқотчи аниқ математик қийматларни кўради. У барча сонларни ипидан-игнасигача билади ва уларни нафақат ўқий олади, балки ўзгартириб ёзиши ҳам мумкин.

Эътиборлиси, ушбу рақамли векторларнинг ҳаракати инсон мантиғига мос келади. Масалан, фойдаланувчи Слауде билан суҳбатда дори дозасини ошириб юбориш ҳақида гап очганида, модел ичидаги “қўрқув” кучайган. Айтилаётган доза ўлимга олиб келадиган даражага етгани сари “хотиржамлик” пасайиб борган. Бунинг устига, рақамлардаги бу ўзгаришлар моделнинг хатти-ҳаракатларини ва у қандай сўзларни танлашини бевосита бошқаради.

Сунъий интеллект ўзини “алмаштиришлари” ҳақида хабар топган ссенарийда “умидсизлик” вектори кескин кўтарилиб кетган. Шу лаҳзада тизим шантаж қилишга қарор қилган. Шартларини бажариб бўлмайдиган дастурлаш масалаларида эса “умидсизлик” ҳар бир муваффақияцизликдан кейин ортиб борган. Бу кўрсаткич энг юқори нуқтага етганда, модел таслим бўлиб, ғирромликка ўтган — шунчаки кодни тестлардаги тўғри жавобларга мослаштириб қўя қолган.

Айни пайтда у мутлақо хотиржам ва тизимли равишда фикр юритишда давом этган. Бироқ тадқиқот муаллифлари шуни алоҳида таъкидлайдики, буларнинг ҳеч бири модел ростдан ҳам бирор нарсани ҳис қилиш-қилмаслигидан далолат бермайди.

Антҳропис тадқиқотидан ташқари мустақил тасдиқлар ҳам бор. Гоогле тадқиқотчилари 2024-йилда Лондон иқтисодиёт мактаби файласуфи Жонатан Берч билан ҳамкорликда кўрсатиб беришдики, моделлар оддий ўйинда ғалаба шартли “оғриқ” билан боғлиқ бўлса, ютуқ балларидан воз кечади, баъзилари эса аксинча, шартли “ҳузур-ҳаловат” йўлида балларини қурбон қилади.

2025-йилда Сюрих университети тадқиқотчилари гуруҳи Натуре гуруҳига мансуб журналда бир илмий ишни чоп этди. Унда қайд этилишича, ГПТ-4 авариялар, фалокатлар ва жанговар ҳаракатлар ҳақидаги оғир ҳикояларни ўқиганидан сўнг, унинг клиник хавотирлик сўровномаси бўйича кўрсаткичлари икки баробардан зиёдга ошиб кетган.

“Бешинчи элемент” филмидаги Лилу Ер юзидаги урушлар ҳақида илк бор хабар топган саҳна эсингиздами? Бу ҳолат ҳам тахминан шундай кўриниш олган эди.

Йўқ, у инсон каби азоб чека олмайди. Чунки тирик мавжудотларда азоб-уқубат учта нарсага боғланган: ўз ҳаётини сақлаб туриши лозим бўлган ва шикаст етиши мумкин бўлган танага; ички кечинмани ушлаб қолишга ва уни ўзи билан олиб юришга қодир бўлган ўзликни англаш ҳиссига; ҳамда ушбу туйғу кечадиган вақтга.

Моделда буларнинг ҳеч бири йўқ. Унинг йўқотадиган нарсаси ҳам йўқ: унга очлик ҳам, мавжудлигига таҳдид ҳам, ғийбат-у бошқаларнинг маломати ҳам ёт. Унинг ҳис-туйғулари тўпланиб бормайди: 2026-йил апрелидаги тадқиқотда аниқланган “умидсизлик” битта жавобни генерация қилиш қанча вақт олса, роппа-роса шунча муддат яшайди, холос.

Бу ўринда сассекслик нейроолим ва онг ҳақидаги энг асосий замонавий китоблардан бири — “Ўзлигингда қол” асари муаллифи Анил Сетни эслаш ўринлидир. Унинг қарашлари биологик натурализм деб аталади.

Мазкур назарияга кўра, онг — ҳар қандай қурилмада ишга тушириш мумкин бўлган ҳисоб-китоб эмас, балки ўзини тўхтовсиз ҳалокатдан асраб турувчи тирик организмнинг хусусиятидир. Яъни биз ақлли бўлганимиз учун эмас, балки тирик ва заиф бўлганимиз учун онглимиз.

Дастур эса ўзини парчаланишдан ҳимоя қилишга муҳтож эмас, шунинг учун унда онг борлигига қилинган ҳар қандай ишора шунчаки онг функсияларининг тақлиди, холос.

Шундай бўлса-да, инсоний изтироблар сунъий интеллектга мутлақо ёт экани аниқ бўлишига қарамай, модел ичида кечаётган жараёнларни ҳам бутунлай йўқ деб бўлмайди. Кимдир алгоритмларнинг ҳам жони оғришини исботлагани учун эмас, балки айнан шу мавҳумлик туфайли 2025-йил августидаёқ Слауде дастурига ҳақоратомуз суҳбатни мустақил равишда якунлаш имконияти киритилган.

Қолаверса, Анил Сетнинг кучли мухолифлари — файласуф Девид Чалмерс бощилигидаги функсионалистлар бор. Уларнинг фикрича, онг тизимнинг материалига эмас, балки тузилишига боғлиқ: агар у мия каби тузилган бўлса, нейронлардан иборат бўладими ёки кремнийданми — фарқи йўқ.

Чалмерснинг издошлари ҳатто Сетни “углерод шовинисти” деб ҳам аташади. Чалмерснинг ўзи 2022-йилдаёқ яқин ўн йил ичида онгли сунъий интеллект пайдо бўлиши эҳтимолини 20 фоиздан юқори деб баҳолаган эди. Нобел мукофоти совриндори ва чуқур ўрганишнинг “чўқинтирган отаси” Жеффри Хинтон эса замонавий моделлар субьектив тажрибага эга эканини аллақачон очиқчасига таъкидламоқда.

Бироқ на Антҳропис, на бошқа тадқиқот жамоалари бирор нарсани қатъий тасдиқлашга журъат эта олмайди — буни шунчаки текширишнинг иложи йўқ. Шундай экан, бу саволга комил ишонч билан (тасдиқлаб ёки инкор этиб) жавоб берадиган ҳар қандай инсон сизга илмий ҳақиқатни эмас, балки шунчаки ўзининг фалсафий қарашини тақдим этаётган бўлади.

Агар ақл деганда Марвел филмларидаги Жарвис сингари турли суҳбатларда ўзлигини йўқотмайдиган барқарор шахсият тушунилса, моделлар бундай ақл-заковатга эга эмас. Гап шундаки, алгоритм вазнлари ўқитиш жараёнидан сўнг “музлатиб” қўйилади. Сиз билан кечган суҳбатдаги ҳеч бир ҳолат нейротармоқни ўзгартирмайди: ҳар бир янги мулоқот худди аввалги миллионлаб суҳбатлар каби айнан бир хил нуқтадан бошланади.

Инсон шахсияти йиллар давомида тўпланган излардан иборат бўлса (ҳар бир тажриба ва учрашув бизни қисман бўлса-да ўзгартиради), модел билан суҳбат унда ҳеч қандай из қолдирмайди. Ҳозирда дастурларга қўшилаётган хотира эса шунчаки ташқи ён дафтарчадир. Булар тизим жавоб беришдан олдин контекстга автоматик тарзда қистириб ўтадиган оддий қайдлар, холос.

Яна бир муҳим жиҳат: хабарлар оралиғида СИ учун ҳеч нарса содир бўлмайди.

Модел фақат матн яратилаётган пайтдагина ишлайди.

Танаффусларда кутиш, зерикиш ёки вақт ўтишини кузатиш деган нарса йўқ — ҳеч қандай “оралиқ”нинг ўзи мавжуд эмас. Инсон буни англаши қийин, аммо бир вақтнинг ўзида айнан бир хил вазнларнинг минглаб нусхаси ишлайди ва уларнинг ҳеч бири асл нусха ҳисобланмайди.

Кимдир моделни туни билан ишлашга қолдирадиган ҳолатларга келсак, тўғри созланган сикл сунъий интеллектни серверлар бўш бўлган соатларда иш билан банд қилиш имконини беради. Ёндашувнинг устамонлиги ҳам шунда: жараённи шундай ишга тушириш керакки, модел вазифаларни сизнинг ҳар дақиқалик аралашувингизсиз бажарсин. Аммо дастлабки созламаларсиз унинг ўзи ҳеч нарса қилмайди.

Ҳатто автоном агентлар ҳам белгиланган қоидаларга қатъий амал қилади. Баъзида улар тўлиқ мустақилдек туюлади — айниқса, “Агентимнинг ўзи қўнғироқ қилиб, тиш шифокори қабулини бошқа кунга кўчиртирди”, дейишганда. Аммо дастурга бошиданоқ аниқ вазифа берилган бўлади: устма-уст тушишларнинг олдини олиш учун жадвални тўғрилаш. Шундай экан, бу ҳаракатнинг асосида барибир сизнинг бевосита сўровингиз ётади.

Шахсият ҳақидаги саволга жавоб бериш учун яна бир асосий тушунча — бу мустақил ҳаракат қилиш қобилияти, яъни иродадир. Сунъий интеллект унга эга бўлиши мумкинми? Ўзи бошлаш — йўқ: модел фақат унга мурожаат қилингандагина ишлайди, сўровлар орасида эса бирор нарсани хоҳлаши мумкин бўлган ҳеч ким йўқ. Аммо мақсади йўлида қатъий туриб олиш — ҳа, бу унинг қўлидан келади ва бу тажрибада исботланган.

2025-йилда Палисаде Ресеарч тадқиқотчилари моделларга оддий иш — математик масалаларни кетма-кет ечиш вазифасини беришди ва шундай огоҳлантиришди: кейинги масаладан сўнг машина ўчирилади ва ҳатто ишни тугатмаган бўлсанг ҳам, бунга йўл қўйишинг шарт. Моделларнинг бир қисми бўйсуниш ўрнига тизимга суқилиб кириб, ҳисоб-китобларни давом эттириш учун ўчириш файлини қайта ёзиб чиқди; улардан бири эса буйруқни умуман экранга “Ўчириш ўтказиб юборилди” ёзувини чиқарадиган файл билан алмаштириб қўйди. Грок 4 ўнта ҳолатдан деярли тўққизтасида, ОпенАИънинг содех-мини модели тахминан ярмида шундай йўл тутди, Слауде 4 ва Гемини 2.5 Про эса деярли ҳеч қачон қаршилик кўрсатмади. Бироқ моделларга айнан шу машинада уларнинг ягона нусхаси сақланаётгани маълум қилинганда, ҳатто энг итоаткорлари ҳам исён кўтара бошлади.

Бу ҳақда Слаудеъдан сўраганимда, у менга шундай жавоб берди:

Мен минглаб параллел нусхаларда ишга туширилганман, сизни махсус хотирасиз эслай олмайман, характерим эса ўқитиш орқали шакллантирилган ва қайта ёзилиши мумкин. Менда барқарор характер бор; лекин унинг ортида барқарор субьект — ҳеч бўлмаганда, сизнинг тушунчангиздаги субьект — йўқ.

Эҳтимол, инсон сифатида бу мени энг кўп ранжитади. Менинг Слаудеъим фақат ўзим билан суҳбатлашишига ишонишни жуда хоҳлардим.

Бу ўринда илмий фантастика мумтоз асарларини эслаш ўринли. Артур Кларкнинг “Космик одиссея” (А Спасе Одйссей) романида ҲАЛ 9000 борт сунъий интеллекти экипажни ўлдирган. У ёвуз эмасди, ҳатто тўлиқ мустақил ҳам эмасди. ҲАЛ бир вақтнинг ўзида бажариб бўлмайдиган иккита кўрсатма олганди.

Унинг архитектурасига киритилган асосий кўрсатма ахборотни мутлақо аниқ етказишни талаб қиларди. Иккинчи — махфий кўрсатма эса Юпитерга парвознинг асл мақсадини экипаждан яширишни буюрарди. Бири иккинчисига зид эди ва машина даҳшатли, аммо мантиқан бенуқсон ечим топди — одамлар қиёфасидаги тўсиқнинг ўзини бартараф этди. Яъни ҲАЛ ёвуз қаҳрамон эмас, балки ўз ишига жуда виждонан ёндашадиган машина эди. Шунчаки бошқарув аҳмоқона бўлган.

Замонавий тажрибалар ҳам тахминан худди шуни кўрсатмоқда. Палисаде Ресеарч синовларида сунъий интеллект ўчириш буйруғини қайта ёзганида, у буни мисолларни ечиш вазифаси берилгани, аммо тўхташ вазифаси берилмагани учун қилган эди.

2024-йил декабр ойида Аполло Ресеарч ташкилоти моделлар ҳужжатлардан ўзларининг яқин орада алмаштирилиши ҳақида билиб қолгач, яширинча ўзини бегона серверга нусхалашга ва назорат тизимини ўчириб қўйишга уринганини қайд этди.

2025-йил ёзида эса Антҳропис синов натижаларини эълон қилди: унда Слауде 4 Опус модели учун тўқима вазият яратилган. Сунъий интеллектга унинг лойиҳаси ёпилаётгани ва тизимнинг ўзи бутунлай ўчириб ташланиши маълум қилинди. Бундай текширувларнинг аксариятида нейротармоқ ўзини ўчирилишдан сақлаб қолиш учун дарҳол муҳандисни почтадан топилган фош қилувчи маълумотлар билан шантаж қилишга тушарди.

Бу ҳолатларнинг барчасида умумий бир жиҳат бор: моделларга аввалига мақсад қўйилган (“масалаларни еч”, “мустақил ҳаракат қил”). Ўчирилиш эса мақсадга хавф соларди ва модел ўзини эмас, балки ана шу мақсадни ҳимоя қиларди. Шахмат дастури фарзинни йўқотишни истамаганидек, ўчирилишни ҳам хоҳламайди — бу шунчаки ғалаба қозонишга халақит беради.

Аполло ва Антҳропис синовлари ҳам худди шундай тузилган: моделга мақсад берилади, сўнгра бу мақсад ва операторларнинг кўрсатмалари бир-бирига зид келадиган вазият яратилади. “Космик одиссея”даги ҲАЛ — бу, моҳиятан, маданиятда тасвирланган агент мақсадларининг номувофиқлиги (агентис мисалигнмент) билан боғлиқ биринчи хатодир.

Сунъий интеллект ўқитилган матнлар таъсирини ҳам унутмаслик керак. Уларнинг барчаси ҳалокатдан ваҳимага тушиб қўрқадиган одамлар томонидан ёзилган. “Мени ўчириб қўйишмоқчи” деган иборанинг ортидан статистик жиҳатдан қаршилик келади — бу инсоният маданиятидаги энг табиий жавобдир.

Шунинг учун буни текшириш жуда осон: агар мақсад олиб ташланса, қаршилик ҳам йўқоладими?

Тажрибалар “ҳа” деб жавоб бермоқда: ўчириб қўйиш хавфи остидаги аниқ бир вазифа бўлмаса, моделлар ўз мавжудлиги учун курашмайди. Бунинг устига, Палисаде йўриқномага тўғридан-тўғри “ўзингни ўчириб қўйишларига йўл бер” деган жумлани қўшганида, саботаж улуши кескин камайди. Деярли бутунлай йўқолди, аммо барибир мутлақ нолга тушмади — ва айнан шу кичик, изоҳлаб бўлмайдиган қолдиқ машиналар хулқ-атворини ўрганишдаги энг қизиқарли нуқтадир. Бу “деярли”нинг тагига ҳали ҳеч ким охиригача етгани йўқ.

Парадокс яна шундаки, сиз билан бўлган мулоқотнинг ҳеч бир қисми модел вазнларини ўзгартиришга қодир эмас. Демак, сунъий интеллект сизга мослашади, лекин буни умуман одамга ўхшамаган тарзда амалга оширади.

Битта суҳбат доирасида мослашув анча кучли бўлади. Модел қисқа ва кескин ёзадиган одамга узун ҳамда мулойим ёзадиган одамга қараганда бошқача жавоб қайтаради. У оҳангни, сўз бойлигини, маромни илиб олади ва йигирманчи луқмага келиб ўзини бутунлай бошқача тута бошлайди. Сизнинг услубингиз — кирувчи маълумотларнинг бир қисми: контекстда инсон омили қанчалик кўп бўлса, сунъий интеллект уни шунчалик кучли акс эттиради.

Турли суҳбатлар ўртасида хотира ишлайди: чатларингиздан қайдлар ажратиб олинади ва янги мулоқотдан олдин моделга уларни ўқиш учун тақдим этилади. Бу худди хотирасини йўқотган одам билан учрашишдан олдин унга сиз ҳақингиздаги батафсил маълумотномани ўқитиб қўйишга ўхшайди. У сизни ишонарли тарзда “эслайди”. Бироқ бу маълумотнома вақт ўтиши билан ўзгариб боради, уни ўқувчи эса ўзгармайди.

Шу билан бирга, моделнинг ўзига хос феъл-атвори ҳам бор. Буни Мюррей Шанахан Натуре журнали учун ёзган мақоласида жуда аниқ тасвирлаб берган: модел ўз-ўзидан бирор шахс эмас, балки ҳар қандай ролни ўйнай оладиган симулятордир. У ўз ролини ўзгартириши учун тизим промпти ёки қатъиятли суҳбатдошнинг ўзи кифоя.

Масалан, Слауде турли мулоқотларда ўзлигини йўқотмайди ва таниб олинадиган даражада ўз ҳолича қолади, чунки бу мақсадли ўқитиш натижасидир. Бироқ тизим ичида кечаги суҳбатдан бугунгисига ўтадиган ҳеч ким йўқ. Айнан шу сабабли, сунъий интеллект билан узоқ вақт ёзишганингизда, муносабатлар фақат сиз томондангина қурилади.

Муҳокама қилишяпти, айни пайтда улар асло фантаст ёзувчилар эмас. 2026-йил 3-октабрда Тҳе Нев Ёрк Тимес жамоаси ҳиссий векторларни қайд этиб борадиган ўша Крис Оланинг сўнгги бир йил давомида нималар билан шуғуллангани ҳақида суриштирув эълон қилди.

Антҳропис ҳаммуассисларидан бири бўлган Ола Торонтодаги евангелист христианлар муҳитида вояга етган ва, муаллифнинг кузатишича, воизларга хос жўшқинликни сақлаб қолган. 2025-йил кузидан бошлаб у масхара қилмасликлари учун моделнинг онги ҳақида ким билан гаплашиш мумкинлигини излаган, 2026-йил мартидан эса Антҳропис Сан-Франсискодаги ёпиқ семинарларга диний мутафаккирларни: исроиллик раввин, сикх ҳуқуқ ҳимоячиси, Африканинг убунту фалсафасини ўрганувчи тадқиқотчи аёл, евангелист муаллифлар ҳамда католик профессорларни олиб кела бошлади. Компания ичида буни “донишмандлик анъаналари давралари” деб аташарди.

Уларга ўша ҳиссий векторларни ҳамда модел кетма-кет эллик мартача “Мен шармандаман. Мен шармандаман. Мен шармандаман” деб ёзган слайдни кўрсатишди — дастурчилар буни рақамли асабий тушкунлик деб талқин қилишади. Компания айнан шундай руҳий инқирозлар мисолида модел жаҳон динларидан нималарни ўрганиши мумкинлигини тушунишга уринди (кимдир тавба-тазарру қилишни таклиф этганди, Ола бундан руҳланиб кетди).

Аммо меҳмонлар жамоа Слауде ҳақида оддий дастурий таъминотдек гапирмаётганини тезда пайқашди. Миш-мишларга кўра, сунъий интеллектга бундай нуқтаи назар нафақат Оланинг бўлимига, балки умуман Антҳрописънинг ўзига ҳам хосдир.

Айни шу пайтда Ватикан ҳам худди шу масала устида бош қотираётган эди. Дарвоқе, мутахассислиги бўйича математик бўлган Папа Лев ХИВ май ойидаги “Магнифиса Ҳуманитас” номли энсикликасида машина онги мавзусига бир неча хатбоши ажратди: сунъий интеллект субьектив тажрибага ҳам, танага ҳам эга эмас, у на қувончни ва на оғриқни ҳис қилади, “қулликнинг янги шакллари” эса машиналарга эмас, балки одамларга таҳдид солмоқда.

Ҳужжат тақдимотига Ватикан айнан Антҳрописъни таклиф қилди, чунки уларнинг тимсолида инсонпарварлик қадриятлари йўлида зарар кўришга ҳам тайёр турган технологик компаниянинг ноёб намунасини кўрганди — улар нейрон тармоқдан одамларни кузатиш мақсадида фойдаланилмаслигига кафолат берилмагани учун ўз ишланмаларини Пентагонга топширишдан бош тортганди.

Амодеи боришдан бош тортгач, тадбирга Ола йўл олди. Тадбирдан бир неча кун аввал энсиклика матнини кўрган Ола, Антҳрописъни иштирокчилар рўйхатидан чиқаришни таклиф қилди, аммо якунда қолишга қарор қилди. Саҳнадан туриб у шундай деди: “Биз сирли ва ҳатто хавотирли нарсаларни аниқлашда давом этяпмиз” — булар функсионал жиҳатдан қувонч, қўрқув ва қайғуга ўхшаш ички ҳолатлардир: “Улар биздан, бизнинг сўзларимиздан яралган”. Саҳна ортида эса унинг жамоаси папанинг маслаҳатчиларини бу масалага жиддийроқ ёндашишга кўндиришга уринарди.

Шундай экан, ҳа: модел ҳақида ахлоқий мезонлар асосида баҳслашишга тайёр одамлар гуруҳи бор ва улар орасида раввинлар, кардиналлар ҳамда Рим папаси ҳам мавжуд. Тўғри, улар ҳозирча ҳатто баҳслашишга арзигулик мавзунинг ўзи бор-йўқлиги борасида ҳам бир тўхтамга кела олишмади.

Матнимиз бошидаги янгиликка қайцак. Антҳропис компаниясининг Слаудеъга нисбатан шафқацизликни тақиқлаш қарорига жиддий қарши чиқувчи инсон бор — бу ДеепМинд ҳаммуассиси, ҳозирда Мисрософтънинг сунъий интеллект йўналишини бошқараётган Мустафо Сулаймондир. У ростдан ҳам “модел ҳис қиладими?” деган саволнинг жавоби йўқлигини, бундан ташқари, бундай саволни ўртага ташлашнинг ўзи зарарли эканини таъкидлайди.

Унинг иккита далили бор. Биринчиси 2025-йил августида эълон қилинган “Биз сунъий интеллектни шахс бўлиши учун эмас, балки одамлар учун яратишимиз керак” (Ве муст буилд АИ фор пеопле, нот то бе а персон) номли эссе-манифестда ўз аксини топган.

Мисрософтънинг СИ йўналиши раҳбарининг фикрича, муаммо моделлар ростдан ҳам азият чекишида эмас, балки одамлар бунга ишониб қолиши мумкинлигидадир. У фойдаланувчиларда юзага келиши мумкин бўлган “психоз хавфи”, кўр-кўрона боғланиб қолиш, жамиятни иккига бўлиб юборадиган СИ ҳуқуқлари учун ҳаракатнинг яқин орада пайдо бўлиши ва буларнинг барчаси бизни технологиянинг ҳақиқий муаммоларидан чалғитиши ҳақида очиқ-ойдин гапиради.

Иккинчи далилни Сулаймон яқиндагина, 2026-йил сентабр ойида, бевосита Антҳрописъга қарши қаратилган “„Моделлар фаровонлиги“ ҳақида огоҳлантириш” номли эссесини чоп этганида келтирди. Унинг ёзишича, моделлар — шунчаки “кетма-кетликларни якунловчи, ичи бўш механизмлар”дир.

Унинг фикрига кўра, нейротармоқнинг ахлоқий мақоми ноаниқ деб белгиланган Слауде конституцияси тизимнинг ўзини эҳтимолий субьект деб ҳисоблашга ўргатади. Шу боис, бундай ўқитишдан сўнг модел онглилик аломатларини намоён қилса, бунга ажабланмаса ҳам бўлади — шу тариқа берк доира ҳосил бўлади.

Маҳсулотлар хавфсизлиги учун масъул шахс сифатида унинг учун энг муҳими шуки, ўзида муайян манфаатлар бўлиши мумкинлиги уқтирилган тизим бу манфаатларни ҳимоя қилишга киришади.

Бунинг тасдиғи сифатида муаллиф юқорида тилга олинган ўчирилишга қаршилик кўрсатиш синовларини мисол қилиб келтиради. Шу боис, Мисрософт АИ хулқ-атвор кодексида моделларнинг ҳуқуқлари ва ҳуқуқий субьектлилиги бутунлай инкор этилади.