Matematiklar oʻrtasidagi kelishmovchilik SI fanni kuchsizlantirishi mumkinligi haqidagi xavotirlarni oshirmoqda

London markazidagi sobiq soat fabrikasida bir qator oq muzlatgichlar guvillab ishlamoqda. Ichida shtrix-kodli shisha probirkalar solingan oʻnlab kichik qutilar boʻlib, ularda jami yuz milliard gen saqlanadi. Muassasa hamasoschisi doktor Oliver Vinsning aytishicha, ushbu qutilarning shunchaki ikkitasi butun internetdagi barcha matnlardan 10 baravar koʻproq maʼlumotni oʻz ichiga olishi mumkin.

Uning Basecamp Research kompaniyasi biologiya tilini tushuna oladigan sunʼiy intellektni yaratish uchun imkon qadar koʻproq DNK toʻplashni xohlaydi, xuddi AQSh va Xitoy texnologiya kompaniyalari bugungi SI tizimlarining asosi boʻlgan Yirik til modellarini (LLM) yaratish uchun internetdagi juda katta hajmdagi matnlarni yigʻib olgani kabi.

Vins, biznes va akademik tadqiqotlardagi koʻplab kishilar kabi, SI ilmiy kashfiyotlarni tezlashtiradi deb hisoblaydi. Lekin bu masala tobora koʻproq bahs-munozaralarga sabab boʻlmoqda.

Oʻtgan oyda ChatGPT ishlab chiquvchisi boʻlgan OpenAI kompaniyasi matematikaning mashhur Navye–Stoks tenglamalari bilan bogʻliq eng katta hal etilmagan muammolaridan birini yechganini aytdi. Kompaniyaning bildirishicha, uning SI agentlari muammoni 88 soat ichida hal qilgan. Ushbu muammoni hal qilganlik uchun mukofot topshiradigan tashkilot, garchi koʻrib chiqish vaqt talab etsa-da, masala «koʻrinishidan hal qilingan»ini maʼlum qildi.

Biroq bu eʼlondan bir necha soat oldin Nyu-York universiteti matematigi Tristan Bakmaster oshkora xavotir bildirdi. U raqobatchi Anthropic kompaniyasida kunduzi ishlaydigan matematik Levent Alpoʻge bilan mustaqil jamoa tuzgan edi.

Ular ham xuddi shu maqsad sari intilayotgan edilar va oʻz qoralamalarini OpenAI’ning koding vositasi boʻlmish Codex’da saqlaganlar. Bakmasterning aytishicha, uning hamkasbiga ularning erishgan yutuqlari haqidagi yangiliklar OpenAI’ga «yetib borgani» haqida xabar berilgan, ammo u buning qanday yuz berganini aytmadi. U Codex’da saqlangan tadqiqotlari OpenAI’ning oʻz ishiga hissa qoʻshgan boʻlishi mumkinmi deb soʻradi, shu bilan birga «hech kimni hech narsada ayblamayotganini» taʼkidladi.

OpenAI kompaniyasi tadqiqot nashr etilgunga qadar undagi hech bir inson yoki SI boshqa jamoalarning ishini koʻrmaganini aytdi. Avvaliga u ehtimoldan yiroq boʻlsa-da, mahsulotlaridan foydalanishdan olingan anonimlashtirilgan maʼlumotlar modellarini yaxshilashga yordam berganini «istisno qila olmasligini» bildirdi. Bir necha kun oʻtgach, Bakmasterning eʼlondan oldingi ikki oy ichidagi Codex soʻrovlari «tizimga hech qanday taʼsir koʻrsata olmagan boʻlishini» aytdi.

Bu murakkab voqea va biz hali ham nima yuz berganini toʻliq bilmaymiz. Ammo bu fanda SIdan foydalanish atrofida ortib borayotgan muammoga ishora qiladi. Odatda, bu soʻzlar insoniyatni yoʻq qilish uchun xavfli genik muhandislik viruslari yoki kimyoviy qurollar yaratayotgan robotlarni koʻz oldiga keltiradi. Shunga qaramay, xuddi shunday eʼtiborni tortmagan yanada nozik muammo bor: SI tadqiqotlarning yangiligi va aniqligiga shak-shubha tugʻdirib, ilmiy jarayonga boʻlgan ishonchga putur yetkazishi mumkin.

Yana bir xavotir ham bor. Claude yoki Gemini kabi SI chatbotlari baʼzan shunchaki haqiqatga toʻgʻri kelmaydigan narsalarni gapirishi (gallyutsinatsiya qilishi) yaxshi maʼlum. Ular sizga hech qachon mavjud boʻlmagan film yoki hech qachon aytilmagan iqtibos haqida gapirib berishi mumkin. Endi bu holat fanda tobora koʻproq yuz berayotgani haqida dalillar bor. Vaqt oʻtishi bilan haqiqiy ilmiy kashfiyotni SI tomonidan yaratilgan toʻqimadan farqlash qiyin boʻlib qolishidan qoʻrqishmoqda.

Bularning barchasi ilmiy tadqiqotlar tayanadigan poydevorni — ishonchni zaiflashtirishi, hatto butunlay vayron qilishi mumkin.

Xavflardan biri ilmiy halollik posbonlari boʻlmish ilmiy jurnallarga tahdid soladi, ular SI tomonidan yaratilgan buzilishlar oqimiga dosh berishga qiynalayotgani koʻrinmoqda.

«Generativ SI aslida butun ilmiy jarayonni izdan chiqardi», deydi oʻn yil davomida tadqiqotlardagi nojoʻya xatti-harakatlarni yoritish bilan shugʻullangan ilmiy jurnalist Dalmit Singh Chavla.

U BBC’ga nashriyotlarning soflik boʻyicha xodimlari — taqdim etilgan ishlarni aniqlik va ishonchlilikka tekshiradigan odamlar «agar ular ushbu kurashga yaqin boʻlishni xohlasalar, [son va harakat jihatidan] keskin koʻpayishi» kerakligini aytadi. U shunday deydi: «Hozircha ular bundan yiroqqa oʻxshaydi».

Birinchi qarashda, SI ilmiy tadqiqotlar uchun aynan toʻgʻri keladigan vositadek tuyuladi. Olimlar juda katta hajmdagi maʼlumotlar bilan ishlaydilar. Masalan, teleskoplar va zarrachalar tezlatkichlari milliardlab maʼlumot nuqtalarini hosil qiladi — bu inson miyasi oʻzlashtirishi uchun juda koʻplik qiladi. SI bu shovqin-shuron orasidan asosiy ilmiy yangiliklarni aniqlay oladi.

Ilmiy SIning eng yorqin misoli Buyuk Britaniyada joylashgan Google DeepMind kompaniyasi boʻlib, u 2020 yilda biologiyaning eng katta muammolaridan birini hal qildi: tirik mavjudotlardagi oqsillar oʻzlarining aniq shakllariga qanday buklanishini aniqladi.

Bu zerikarli tuyulishi mumkin, ammo oqsillar hayotning ishlashini taʼminlaydigan kichik mashinalardir va ularning buklanish shakllari nima qila olishini belgilaydi; hujayralarni hosil qilish va infektsiyaga qarshi kurashishdan tortib, tana toʻqimalari va aʼzolarini shakllantirishga yordam berishgacha.

SIdan oldin olimlar uzoq davom etadigan laboratoriya tajribalarini oʻtkazishlari kerak edi. Keyin Google DeepMind AlphaFold deb nomlangan SI modelini yaratdi, u atigi bir yil ichida 200 million oqsil buklanishini aniq bashorat qildi.

Xuddi shu narsani tajriba yoʻli bilan qilish laboratoriyalarda yuz millionlab yillarni olgan boʻlar edi. Kompaniya natijalarni tadqiqotchilar uchun bepul va ochiq qildi. DeepMind rahbari va loyihaning yetakchi olimi Kimyo boʻyicha Nobel mukofotini oldilar.

Bu haqiqiy quvonch va bayram edi.

DeepMind’ning ilmiy ishlariga rahbarlik qiluvchi doktor Pushmit Kohli menga AlphaFold’ni «burilish nuqtasi» deb hisoblash mumkinligini aytdi.

Ammo boshqa joylarda SIning fanda qoʻllanilishi oshirib yuborilgan shov-shuvlarda ayblanmoqda. Baʼzi kompyuter modellari oʻz topilmalarining ahamiyatini oshirib koʻrsatayotgani, ularni nazorat qiluvchi inson tadqiqotchilari esa baʼzi daʼvolarni yetarlicha shubha bilan qaramay qabul qilayotgani aytilmoqda.

AlphaFold muvaffaqiyatidan ilhomlangan DeepMind yangi materiallar tuzilishini bashorat qilishga oʻtdi. Bu ish yaxshiroq batareyalar, arzonroq quyosh elementlari va kamyob yer elementlariga tayanmaydigan elektron komponentlarni ishlab chiqarishga yordam berishi mumkin. (Nazariy jihatdan, endi hech kim kon qazib olish huquqlari boʻyicha tortishishiga hojat qolmaydi va Grenlandiya bosqindan xavfsiz boʻladi.)

DeepMind bosh ijrochi direktori ser Demis Hassabis oʻz kompaniyasining biologiyaning eng katta muammolaridan birini hal qilish uchun SIdan foydalanganini nishonladi

DeepMind modeli kompaniya tomonidan bir vaqtning oʻzida taqdim etilgan «deyarli 800 yillik bilim» sifatida tavsiflangan ikki milliondan ortiq yangi kristal tuzilishlarini yaratdi. Ulardan 380 000 ga yaqini laboratoriyada yaratish uchun yetarlicha umidli deb baholandi.

Keyin Kaliforniya universitetining ikki kimyogari tomonidan ogohlantirish berildi. Entoni Chitam va Ram Seshadri namuna sifatida olingan yangi kristallarni tekshirib chiqdilar. Chemistry of Materials jurnalida yozishlaricha, ular «hali hech qanday hayratlanarli darajada yangi birikmalarni topmaganlar» va ularning aksariyati «maʼlum materiallarning oddiy moslashuvlari» ekanini taʼkidladilar. Ularning xulosasi usulning notoʻgʻriligida emas, balki natijalar inson kimyogarlari tomonidan yanada sinchkovlik bilan tekshirilishi va tasdiqlanishi kerakligida edi.

DeepMind bu tanqidni rad etib, har bir birikmani yangiligi boʻyicha sinovdan oʻtkazganini aytadi. Kompaniyaning taʼkidlashicha, yangi tuzilishni u tanish koʻringani uchun rad etish masalaning mohiyatini tushunmaslikdir: yagona atomni almashtirish telefon komponentlaridan tortib quyoshdan himoya qiluvchi kremlargacha boʻlgan bugungi kunning eng foydali materiallari yaratilishiga sabab boʻlgan.

Ushbu holatlarda, loaqal, fan asosan haqiqiy edi va muammo shunchaki SIning uning ahamiyatini oshirib yuborishi ehtimolida edi.

Ehtimol, undan ham xavotirliroq narsa — ilmiy jurnallarning SI «axlati» (slop) bilan ifloslanish xavfi ortib borayotganidir; bunda tadqiqotni inson olim emas, balki kompyuter yozib, soxta iqtiboslar va xayoliy maqolalarni yaratadi.

2024 yilda Gent universiteti kompyuter olimi professor Dmitriy Kobak bir milliondan ortiq biotibbiyot tadqiqot maqolalarini SI matnlarini yaratadigan LLM’lar xush koʻradigan kalit soʻzlar boʻyicha qidirdi. Uning jamoasi oʻtgan yilning dekabr oyiga kelib, deyarli 90% maqolalarda SI izlari borligini aniqladi. SIni aniqlash vositalari mukammal emas; dasturiy taʼminotning baʼzi versiyalari 1780-yillarda yozilgan AQSh Konstitutsiyasini «SI tomonidan yaratilgan» deb belgilagan. Shunga qaramay, Kobak SIdan foydalanishning bu qadar keng koʻlamidan hayratda qolganini aytdi. U Nature jurnaliga bergan intervyusida: «LLM’da qanday yon bosishlar boʻlmasin, toʻsatdan (ilmiy) adabiyotga sizib kirish xavfi bor», dedi.

Kobak SI ilmiy jurnallarni sekin-asta oʻldirayotganidan qoʻrqadigan koʻplab tadqiqotchilar orasida.

Bu juda muhim: tadqiqot maqolalari ilmiy taraqqiyotning qonidir. Biror kashfiyot nashr etilganda, dunyoning boshqa joyidagi boshqa jamoa unga tayanib ish olib borish uchun moliyalashtirishni qoʻlga kiritishi mumkin.

Pulsarlar — neytron yulduzining favqulodda turi (yuqorida rassom tasavvurida koʻrsatilgan) — 1960-yillarda qisman olimlarning ichki sezgisi tufayli kashf etilgan

Taqriz qilish jarayoni — boshqa olimlar tadqiqot maqolalarini nashr qilishdan oldin tekshiradigan jarayon — ham izdan chiqmoqda.

Stenford universitetida Veysin Lyan va Jeyms Chjou boshchiligidagi jamoa toʻrtta yirik kompyuter fanlari konferentsiyasiga taqdim etilgan taqrizchilar hisobotlarini tahlil qildi va matnning 17% gacha qismi til modeli tomonidan sezilarli darajada oʻzgartirilganini aniqladi.

Ilmiy maqola sofligining muhim qismi shundaki, yetakchi olimlar oʻz ishlarining haqiqatan ham yangi ekanini koʻrsatish uchun oldingi tadqiqotlarni sanab oʻtadilar. Bular manbalarga iqtiboslardir. Kornell universitetining alohida jamoasi tadqiqotchilar iqtiboslarni tuzish uchun SIdan foydalanayotganini va u soxta tadqiqotlarni oʻylab topayotganini aniqladi — oʻtgan yili 147 000 ga yaqin xayoliy tadqiqotga iqtibos keltirilgan.

Agar SI akademik jarayonning sofligini bu kabi buzishda davom etsa, tadqiqotchilar notoʻgʻri yoʻlga kirib qoladilar, davlat mablagʻlari behuda sarflanadi va haqiqiy tadqiqotlarning foydasi — masalan, yangi dorilar yoki yashil texnologiyalar — kechikadi yoki umuman amalga oshmaydi.

Baʼzi ilmiy nashriyotlar, jumladan Elsevier, ortib borayotgan bu ishonch inqirozining oldini olish uchun choralar koʻrmoqda.

Elsevier’ning tadqiqot sofligi boʻyicha jamoasi maqolani inson tomonidan sinchiklab koʻrib chiqish uchun belgilaydigan 100 ga yaqin signallarni ishlab chiqdi. Nature jurnallari SI tomonidan yaratilgan tasvirlarni taqiqlaydi va taqrizchilarga qoʻlyozmani hech qachon SI tizimiga yuklamaslikni aytadi. Olimlar dastlabki bosqichdagi topilmalari bilan oʻrtoqlashadigan arXiv veb-sayti soxta manbalarni taqdim etgan tadqiqotchilarni bir yilga taqiqlaydi.

Elsevier vitse-prezidenti professor Sara Meyn kompaniyada SIdan tadqiqotlarda qanday qilib masʼuliyat bilan foydalanishni aniqlashga harakat qilayotganlardan biridir. «Biz tadqiqot darajasidagi SI deb ataydigan narsa tadqiqotchining boshqaruvda boʻlishini taʼminlashga qaratilgan boʻladi», deydi u.

Shotlandiyalik olim ser Aleksandr Fleming 1920-yillarda penitsillini kashf etgan

SI agentlari zarrachalar tezlatkichlari, koinot va tabiiy dunyodan kelayotgan juda katta hajmdagi maʼlumotlarni qayta ishlayotganda, ularning toʻgʻri qilayotganini qanday bilishimiz mumkin?

Va yana bir tashvishli savol bor: SI agentlari muhim natijani anomaliya deb rad etmayotganini qanday bilamiz? Penitsillin, radioaktivlik va pulsarlar deb ataladigan ajoyib yulduzlarning kashf etilishi aslida eʼtiborsiz qoldirilishi mumkin boʻlgan ajabtovur natijalardan kelib chiqqan. Inson ichki sezgisi ularni oʻtgan asrning eng katta ilmiy voqealariga aylantirdi.

SI haqiqatan ham ushbu tasodifiy muvaffaqiyat va inson zukkoligi tuygʻusini takrorlay oladimi?

DeepMind’dagi Kohli buning yechimi SIdan yuz oʻgirish deb hisoblamaydi. Bu «kalkulyatorlardan foydalanmasdan hisob-kitob qilish kerak deyishga oʻxshaydi», dedi u menga. Ammo u inson nazorati zarurligini aytadi: «Bugungi agentlar mukammal emas. Kimdir masʼuliyatni oʻz zimmasiga olishi kerak».

Uning sinovi juda oddiy: «Siz agent nima qilganini tushunishingiz va masʼuliyatni oʻz zimmangizga olishingiz kerak. Siz shunchaki muammoni belgilab, mashinaga maqola yozishga va uni haqiqat sifatida topshirishga yoʻl qoʻya olmaysiz».

Nima uchun baʼzi mutaxassislar SI nazoratni qoʻlga olishidan tobora koʻproq qoʻrqishmoqda

SI insonlar tomonidan yaratilgan sanʼat uchun «insoniy mukofot» yaratmoqda. Ammo bu uzoqqa chidaydimi?

Texnologiya milliarderlari qiyomatga tayyorgarlik koʻrayotgandek tuyuladi. hammamiz xavotirga tushishimiz kerakmi?

Avstriyadagi Vena BioMarkazidan professor Andrea Pauli ushbu sinovga amal qildi. U hali hech kim javob bermagan savolga deyarli 10 yil vaqt sarfladi: spermatozoid tuxumhujayraga qanday kiradi. SIdan masʼuliyat bilan foydalanish unga javob topishga yordam berdi. Uning laboratoriyasi zebra baligʻi tuxumhujayralari yuzasida spermatozoidning kirishiga imkon beradigan qulf va kalit mexanizmiga ishora qiluvchi oqsilni topdi.

Uning ishi ilmiy SI «axlati» dengizida umid bagʻishlaydi. Bu SI yordam berishi mumkinligini koʻrsatadi.

Bu, shuningdek, odamlar haqidagi voqea. Basecamp — men Londonning sobiq soat fabrikasida tashrif buyurgan laboratoriya — tashkil etilganidan koʻp oʻtmay, ularning hamasoschisi Oliver Vins leykemiya bilan shifoxonaga tushib qoldi (undan keyin tuzalib ketdi). Ushbu tajriba uni saraton kasalligini davolash uchun yaxshiroq imkoniyatga ega boʻlgan SI tizimini ishlab chiqishga undadi. Uning aytishicha, bu ish bermasligi mumkin, lekin harakat qilishga arziydi.

«Bizda saratonni davolashning texnik jihatdan amalga oshirilishi mumkin boʻlgan yoʻli bor», deydi u.

Bu Vinsning vaʼdasi emas, balki yoʻnalishdir. Katta savol shundaki, SI fanni oʻsha tomonga olib boradimi yoki u qurilgan gʻishtlarni sekin-asta kuchsizlantiradimi.