Математиклар ўртасидаги келишмовчилик СИ фанни кучсизлантириши мумкинлиги ҳақидаги хавотирларни оширмоқда

Лондон марказидаги собиқ соат фабрикасида бир қатор оқ музлатгичлар гувиллаб ишламоқда. Ичида штрих-кодли шиша пробиркалар солинган ўнлаб кичик қутилар бўлиб, уларда жами юз миллиард ген сақланади. Муассаса ҳамасосчиси доктор Оливер Винснинг айтишича, ушбу қутиларнинг шунчаки иккитаси бутун интернетдаги барча матнлардан 10 баравар кўпроқ маълумотни ўз ичига олиши мумкин.

Унинг Basecamp Research компанияси биология тилини тушуна оладиган сунъий интеллектни яратиш учун имкон қадар кўпроқ ДНК тўплашни хоҳлайди, худди АҚШ ва Хитой технология компаниялари бугунги СИ тизимларининг асоси бўлган Йирик тил моделларини (LLM) яратиш учун интернетдаги жуда катта ҳажмдаги матнларни йиғиб олгани каби.

Винс, бизнес ва академик тадқиқотлардаги кўплаб кишилар каби, СИ илмий кашфиётларни тезлаштиради деб ҳисоблайди. Лекин бу масала тобора кўпроқ баҳс-мунозараларга сабаб бўлмоқда.

Ўтган ойда ChatGPT ишлаб чиқувчиси бўлган OpenAI компанияси математиканинг машҳур Навье–Стокс тенгламалари билан боғлиқ энг катта ҳал этилмаган муаммоларидан бирини ечганини айтди. Компаниянинг билдиришича, унинг СИ агентлари муаммони 88 соат ичида ҳал қилган. Ушбу муаммони ҳал қилганлик учун мукофот топширадиган ташкилот, гарчи кўриб чиқиш вақт талаб этса-да, масала «кўринишидан ҳал қилинган»ини маълум қилди.

Бироқ бу эълондан бир неча соат олдин Нью-Йорк университети математиги Тристан Бакмастер ошкора хавотир билдирди. У рақобатчи Anthropic компаниясида кундузи ишлайдиган математик Левент Алпўге билан мустақил жамоа тузган эди.

Улар ҳам худди шу мақсад сари интилаётган эдилар ва ўз қораламаларини OpenAI’нинг кодинг воситаси бўлмиш Codex’да сақлаганлар. Бакмастернинг айтишича, унинг ҳамкасбига уларнинг эришган ютуқлари ҳақидаги янгиликлар OpenAI’га «етиб боргани» ҳақида хабар берилган, аммо у бунинг қандай юз берганини айтмади. У Codex’да сақланган тадқиқотлари OpenAI’нинг ўз ишига ҳисса қўшган бўлиши мумкинми деб сўради, шу билан бирга «ҳеч кимни ҳеч нарсада айбламаётганини» таъкидлади.

OpenAI компанияси тадқиқот нашр этилгунга қадар ундаги ҳеч бир инсон ёки СИ бошқа жамоаларнинг ишини кўрмаганини айтди. Аввалига у эҳтимолдан йироқ бўлса-да, маҳсулотларидан фойдаланишдан олинган анонимлаштирилган маълумотлар моделларини яхшилашга ёрдам берганини «истисно қила олмаслигини» билдирди. Бир неча кун ўтгач, Бакмастернинг эълондан олдинги икки ой ичидаги Codex сўровлари «тизимга ҳеч қандай таъсир кўрсата олмаган бўлишини» айтди.

Бу мураккаб воқеа ва биз ҳали ҳам нима юз берганини тўлиқ билмаймиз. Аммо бу фанда СИдан фойдаланиш атрофида ортиб бораётган муаммога ишора қилади. Одатда, бу сўзлар инсониятни йўқ қилиш учун хавфли геник муҳандислик вируслари ёки кимёвий қуроллар яратаётган роботларни кўз олдига келтиради. Шунга қарамай, худди шундай эътиборни тортмаган янада нозик муаммо бор: СИ тадқиқотларнинг янгилиги ва аниқлигига шак-шубҳа туғдириб, илмий жараёнга бўлган ишончга путур етказиши мумкин.

Яна бир хавотир ҳам бор. Claude ёки Gemini каби СИ чатботлари баъзан шунчаки ҳақиқатга тўғри келмайдиган нарсаларни гапириши (галлюцинация қилиши) яхши маълум. Улар сизга ҳеч қачон мавжуд бўлмаган фильм ёки ҳеч қачон айтилмаган иқтибос ҳақида гапириб бериши мумкин. Энди бу ҳолат фанда тобора кўпроқ юз бераётгани ҳақида далиллар бор. Вақт ўтиши билан ҳақиқий илмий кашфиётни СИ томонидан яратилган тўқимадан фарқлаш қийин бўлиб қолишидан қўрқишмоқда.

Буларнинг барчаси илмий тадқиқотлар таянадиган пойдеворни — ишончни заифлаштириши, ҳатто бутунлай вайрон қилиши мумкин.

Хавфлардан бири илмий ҳалоллик посбонлари бўлмиш илмий журналларга таҳдид солади, улар СИ томонидан яратилган бузилишлар оқимига дош беришга қийналаётгани кўринмоқда.

«Генератив СИ аслида бутун илмий жараённи издан чиқарди», дейди ўн йил давомида тадқиқотлардаги ножўя хатти-ҳаракатларни ёритиш билан шуғулланган илмий журналист Далмит Сингҳ Чавла.

У BBC’га нашриётларнинг софлик бўйича ходимлари — тақдим этилган ишларни аниқлик ва ишончлиликка текширадиган одамлар «агар улар ушбу курашга яқин бўлишни хоҳласалар, [сон ва ҳаракат жиҳатидан] кескин кўпайиши» кераклигини айтади. У шундай дейди: «Ҳозирча улар бундан йироққа ўхшайди».

Биринчи қарашда, СИ илмий тадқиқотлар учун айнан тўғри келадиган воситадек туюлади. Олимлар жуда катта ҳажмдаги маълумотлар билан ишлайдилар. Масалан, телескоплар ва заррачалар тезлаткичлари миллиардлаб маълумот нуқталарини ҳосил қилади — бу инсон мияси ўзлаштириши учун жуда кўплик қилади. СИ бу шовқин-шурон орасидан асосий илмий янгиликларни аниқлай олади.

Илмий СИнинг энг ёрқин мисоли Буюк Британияда жойлашган Google DeepMind компанияси бўлиб, у 2020 йилда биологиянинг энг катта муаммоларидан бирини ҳал қилди: тирик мавжудотлардаги оқсиллар ўзларининг аниқ шаклларига қандай букланишини аниқлади.

Бу зерикарли туюлиши мумкин, аммо оқсиллар ҳаётнинг ишлашини таъминлайдиган кичик машиналардир ва уларнинг букланиш шакллари нима қила олишини белгилайди; ҳужайраларни ҳосил қилиш ва инфекцияга қарши курашишдан тортиб, тана тўқималари ва аъзоларини шакллантиришга ёрдам беришгача.

СИдан олдин олимлар узоқ давом этадиган лаборатория тажрибаларини ўтказишлари керак эди. Кейин Google DeepMind AlphaFold деб номланган СИ моделини яратди, у атиги бир йил ичида 200 миллион оқсил букланишини аниқ башорат қилди.

Худди шу нарсани тажриба йўли билан қилиш лабораторияларда юз миллионлаб йилларни олган бўлар эди. Компания натижаларни тадқиқотчилар учун бепул ва очиқ қилди. DeepMind раҳбари ва лойиҳанинг етакчи олими Кимё бўйича Нобель мукофотини олдилар.

Бу ҳақиқий қувонч ва байрам эди.

DeepMind’нинг илмий ишларига раҳбарлик қилувчи доктор Пушмит Коҳли менга AlphaFold’ни «бурилиш нуқтаси» деб ҳисоблаш мумкинлигини айтди.

Аммо бошқа жойларда СИнинг фанда қўлланилиши ошириб юборилган шов-шувларда айбланмоқда. Баъзи компютер моделлари ўз топилмаларининг аҳамиятини ошириб кўрсатаётгани, уларни назорат қилувчи инсон тадқиқотчилари эса баъзи даъволарни етарлича шубҳа билан қарамай қабул қилаётгани айтилмоқда.

AlphaFold муваффақиятидан илҳомланган DeepMind янги материаллар тузилишини башорат қилишга ўтди. Бу иш яхшироқ батареялар, арзонроқ қуёш элементлари ва камёб ер элементларига таянмайдиган электрон компонентларни ишлаб чиқаришга ёрдам бериши мумкин. (Назарий жиҳатдан, энди ҳеч ким кон қазиб олиш ҳуқуқлари бўйича тортишишига ҳожат қолмайди ва Гренландия босқиндан хавфсиз бўлади.)

DeepMind бош ижрочи директори сэр Демис Ҳассабис ўз компаниясининг биологиянинг энг катта муаммоларидан бирини ҳал қилиш учун СИдан фойдаланганини нишонлади

DeepMind модели компания томонидан бир вақтнинг ўзида тақдим этилган «деярли 800 йиллик билим» сифатида тавсифланган икки миллиондан ортиқ янги кристал тузилишларини яратди. Улардан 380 000 га яқини лабораторияда яратиш учун етарлича умидли деб баҳоланди.

Кейин Калифорния университетининг икки кимёгари томонидан огоҳлантириш берилди. Энтони Читам ва Рам Сешадри намуна сифатида олинган янги кристалларни текшириб чиқдилар. Chemistry of Materials журналида ёзишларича, улар «ҳали ҳеч қандай ҳайратланарли даражада янги бирикмаларни топмаганлар» ва уларнинг аксарияти «маълум материалларнинг оддий мослашувлари» эканини таъкидладилар. Уларнинг хулосаси усулнинг нотўғрилигида эмас, балки натижалар инсон кимёгарлари томонидан янада синчковлик билан текширилиши ва тасдиқланиши кераклигида эди.

DeepMind бу танқидни рад этиб, ҳар бир бирикмани янгилиги бўйича синовдан ўтказганини айтади. Компаниянинг таъкидлашича, янги тузилишни у таниш кўрингани учун рад этиш масаланинг моҳиятини тушунмасликдир: ягона атомни алмаштириш телефон компонентларидан тортиб қуёшдан ҳимоя қилувчи кремларгача бўлган бугунги куннинг энг фойдали материаллари яратилишига сабаб бўлган.

Ушбу ҳолатларда, лоақал, фан асосан ҳақиқий эди ва муаммо шунчаки СИнинг унинг аҳамиятини ошириб юбориши эҳтимолида эди.

Эҳтимол, ундан ҳам хавотирлироқ нарса — илмий журналларнинг СИ «ахлати» (slop) билан ифлосланиш хавфи ортиб бораётганидир; бунда тадқиқотни инсон олим эмас, балки компютер ёзиб, сохта иқтибослар ва хаёлий мақолаларни яратади.

2024 йилда Гент университети компютер олими профессор Дмитрий Кобак бир миллиондан ортиқ биотиббиёт тадқиқот мақолаларини СИ матнларини яратадиган LLM’лар хуш кўрадиган калит сўзлар бўйича қидирди. Унинг жамоаси ўтган йилнинг декабрь ойига келиб, деярли 90% мақолаларда СИ излари борлигини аниқлади. СИни аниқлаш воситалари мукаммал эмас; дастурий таъминотнинг баъзи версиялари 1780-йилларда ёзилган АҚШ Конституциясини «СИ томонидан яратилган» деб белгилаган. Шунга қарамай, Кобак СИдан фойдаланишнинг бу қадар кенг кўламидан ҳайратда қолганини айтди. У Nature журналига берган интервьюсида: «LLM’да қандай ён босишлар бўлмасин, тўсатдан (илмий) адабиётга сизиб кириш хавфи бор», деди.

Кобак СИ илмий журналларни секин-аста ўлдираётганидан қўрқадиган кўплаб тадқиқотчилар орасида.

Бу жуда муҳим: тадқиқот мақолалари илмий тараққиётнинг қонидир. Бирор кашфиёт нашр этилганда, дунёнинг бошқа жойидаги бошқа жамоа унга таяниб иш олиб бориш учун молиялаштиришни қўлга киритиши мумкин.

Пульсарлар — нейтрон юлдузининг фавқулодда тури (юқорида рассом тасаввурида кўрсатилган) — 1960-йилларда қисман олимларнинг ички сезгиси туфайли кашф этилган

Тақриз қилиш жараёни — бошқа олимлар тадқиқот мақолаларини нашр қилишдан олдин текширадиган жараён — ҳам издан чиқмоқда.

Стэнфорд университетида Вэйсин Лян ва Жеймс Чжоу бошчилигидаги жамоа тўртта йирик компютер фанлари конференциясига тақдим этилган тақризчилар ҳисоботларини таҳлил қилди ва матннинг 17% гача қисми тил модели томонидан сезиларли даражада ўзгартирилганини аниқлади.

Илмий мақола софлигининг муҳим қисми шундаки, етакчи олимлар ўз ишларининг ҳақиқатан ҳам янги эканини кўрсатиш учун олдинги тадқиқотларни санаб ўтадилар. Булар манбаларга иқтибослардир. Корнелл университетининг алоҳида жамоаси тадқиқотчилар иқтибосларни тузиш учун СИдан фойдаланаётганини ва у сохта тадқиқотларни ўйлаб топаётганини аниқлади — ўтган йили 147 000 га яқин хаёлий тадқиқотга иқтибос келтирилган.

Агар СИ академик жараённинг софлигини бу каби бузишда давом этса, тадқиқотчилар нотўғри йўлга кириб қоладилар, давлат маблағлари беҳуда сарфланади ва ҳақиқий тадқиқотларнинг фойдаси — масалан, янги дорилар ёки яшил технологиялар — кечикади ёки умуман амалга ошмайди.

Баъзи илмий нашриётлар, жумладан Elsevier, ортиб бораётган бу ишонч инқирозининг олдини олиш учун чоралар кўрмоқда.

Elsevier’нинг тадқиқот софлиги бўйича жамоаси мақолани инсон томонидан синчиклаб кўриб чиқиш учун белгилайдиган 100 га яқин сигналларни ишлаб чиқди. Nature журналлари СИ томонидан яратилган тасвирларни тақиқлайди ва тақризчиларга қўлёзмани ҳеч қачон СИ тизимига юкламасликни айтади. Олимлар дастлабки босқичдаги топилмалари билан ўртоқлашадиган arXiv веб-сайти сохта манбаларни тақдим этган тадқиқотчиларни бир йилга тақиқлайди.

Elsevier вице-президенти профессор Сара Мейн компанияда СИдан тадқиқотларда қандай қилиб масъулият билан фойдаланишни аниқлашга ҳаракат қилаётганлардан биридир. «Биз тадқиқот даражасидаги СИ деб атайдиган нарса тадқиқотчининг бошқарувда бўлишини таъминлашга қаратилган бўлади», дейди у.

Шотландиялик олим сэр Александр Флеминг 1920-йилларда пенициллини кашф этган

СИ агентлари заррачалар тезлаткичлари, коинот ва табиий дунёдан келаётган жуда катта ҳажмдаги маълумотларни қайта ишлаётганда, уларнинг тўғри қилаётганини қандай билишимиз мумкин?

Ва яна бир ташвишли савол бор: СИ агентлари муҳим натижани аномалия деб рад этмаётганини қандай биламиз? Пенициллин, радиоактивлик ва пульсарлар деб аталадиган ажойиб юлдузларнинг кашф этилиши аслида эътиборсиз қолдирилиши мумкин бўлган ажабтовур натижалардан келиб чиққан. Инсон ички сезгиси уларни ўтган асрнинг энг катта илмий воқеаларига айлантирди.

СИ ҳақиқатан ҳам ушбу тасодифий муваффақият ва инсон зукколиги туйғусини такрорлай оладими?

DeepMind’даги Коҳли бунинг ечими СИдан юз ўгириш деб ҳисобламайди. Бу «калькуляторлардан фойдаланмасдан ҳисоб-китоб қилиш керак дейишга ўхшайди», деди у менга. Аммо у инсон назорати зарурлигини айтади: «Бугунги агентлар мукаммал эмас. Кимдир масъулиятни ўз зиммасига олиши керак».

Унинг синови жуда оддий: «Сиз агент нима қилганини тушунишингиз ва масъулиятни ўз зиммангизга олишингиз керак. Сиз шунчаки муаммони белгилаб, машинага мақола ёзишга ва уни ҳақиқат сифатида топширишга йўл қўя олмайсиз».

Нима учун баъзи мутахассислар СИ назоратни қўлга олишидан тобора кўпроқ қўрқишмоқда

СИ инсонлар томонидан яратилган санъат учун «инсоний мукофот» яратмоқда. Аммо бу узоққа чидайдими?

Технология миллиардерлари қиёматга тайёргарлик кўраётгандек туюлади. ҳаммамиз хавотирга тушишимиз керакми?

Австриядаги Вена БиоМарказидан профессор Андреа Паули ушбу синовга амал қилди. У ҳали ҳеч ким жавоб бермаган саволга деярли 10 йил вақт сарфлади: сперматозоид тухумҳужайрага қандай киради. СИдан масъулият билан фойдаланиш унга жавоб топишга ёрдам берди. Унинг лабораторияси зебра балиғи тухумҳужайралари юзасида сперматозоиднинг киришига имкон берадиган қулф ва калит механизмига ишора қилувчи оқсилни топди.

Унинг иши илмий СИ «ахлати» денгизида умид бағишлайди. Бу СИ ёрдам бериши мумкинлигини кўрсатади.

Бу, шунингдек, одамлар ҳақидаги воқеа. Basecamp — мен Лондоннинг собиқ соат фабрикасида ташриф буюрган лаборатория — ташкил этилганидан кўп ўтмай, уларнинг ҳамасосчиси Оливер Винс лейкемия билан шифохонага тушиб қолди (ундан кейин тузалиб кетди). Ушбу тажриба уни саратон касаллигини даволаш учун яхшироқ имкониятга эга бўлган СИ тизимини ишлаб чиқишга ундади. Унинг айтишича, бу иш бермаслиги мумкин, лекин ҳаракат қилишга арзийди.

«Бизда саратонни даволашнинг техник жиҳатдан амалга оширилиши мумкин бўлган йўли бор», дейди у.

Бу Винснинг ваъдаси эмас, балки йўналишдир. Катта савол шундаки, СИ фанни ўша томонга олиб борадими ёки у қурилган ғиштларни секин-аста кучсизлантирадими.