Eng kuchli SI (sunʼiy intellekt) uchun poyga sekinlashishi mumkin. Bundan kim manfaatdor va eng yirik dasturchilar nimani rejalashtirmoqda?
Eng kuchli SI (sunʼiy intellekt) yaratish poygasi sekinlashishi mumkin. Bundan kim manfaatdor va eng yirik dasturchilar nimalarni rejalashtirmoqda?
Ilgʻor sunʼiy intellekt yaratuvchi eng yirik kompaniyalar rahbarlari deyarli bir vaqtda tobora kuchliroq modellar uchun musobaqani sekinlashtirish zarurligi haqida gapira boshladilar. Birinchi boʻlib aniq taklif bilan Claude dasturchisi — Anthropic rahbari Dario Amodei chiqdi, biroq tez orada uni OpenAI, Google DeepMind va xAI rahbarlari ham qoʻllab-quvvatladilar. Shu bilan birga, ushbu kompaniyalarning baʼzilari ommaviy bayonotlardan oldin ham SI rivojlanishini nazorat qilishning umumiy mexanizmini yaratishni muhokama qilganliklari maʼlum boʻldi.
12 sentyabr kuni Amodei ishlanmalarni toʻxtatishni emas, balki ularning surʼatini ehtiyotkorroq qilishni taklif etdi.
U kompaniyalarni mustaqil baholovchilarga ichki jarayonlardan doimiy foydalanish imkoniyatini berishga, xavfsizlikning umumiy standartlarini kelishib olishga va istiqbolda xalqaro muvofiqlashtirishga erishishga chaqirdi. Oʻsha davrda Sem Altman «surʼatni pasaytirish» zarurligiga rozi ekanligini bildirdi, Ilon Mask esa Anthropic taklifini qoʻllab-quvvatladi. Google DeepMind rahbari Demis Xassabis ham bu gʻoyani ijobiy baholadi.
Eʼtiborlisi, bu tashabbus eng kuchli modellarni yaratishda yetakchilik uchun toʻgʻridan-toʻgʻri raqobatlashayotgan kompaniyalar tomonidan ilgari surildi. Shu bois savol tugʻiladi: bu umumiy tahdid qarshisida qarashlarning kamdan-kam uchraydigan mos kelishinimi yoki poyganing asosiy ishtirokchilari oʻrtasidagi yanada yaqinroq muvofiqlashtirishning boshlanishimi?
Eng qiziqarli tafsilot ommaviy bayonotlarda emas, balki dastlabki muzokaralar haqidagi xabarlarda paydo boʻldi. The Washington Post nashrining yozishicha, Anthropic, OpenAI va Google Amodeining ommaviy chaqirigʻidan oldin ham SI xavfsizligi standartlarini belgilashi mumkin boʻlgan yangi tarmoq tashkilotini yaratishni muhokama qilishgan.
Bunday mexanizm gʻoyasi ilgari, jumladan, Xassabis tomonidan ham ilgari surilgan edi.
Altmanning oʻzi ham hozirgi bayonotlar toʻlqinidan oldin eng yirik dasturchilar oʻrtasida ixtiyoriy kelishuv imkoniyati haqida gapirgani diqqatga sazovordir. Soʻnggi kunlarda u OpenAI tashqi baholovchilar bilan ishlashga tayyorligini ham tasdiqladi. Eslatib oʻtamiz, OpenAI boshqa yetakchi kompaniyalar bilan ishlanmalarni sekinlashtirish va xavfsizlikni oshirish choralarini kelishib olishi mumkin.
Kompaniyalarda xavotir uchun juda aniq sabablar bor. Zamonaviy SI-agentlar allaqachon mustaqil ravishda harakatlar zanjirini bajarishni, internet bilan ishlashni va oddiy chat-bot doirasidan ancha chetga chiqishga imkon beruvchi vositalardan foydalanishni biladilar.
Eng eʼtiborga loyiq voqealardan biri OpenAI kompaniyasining Hugging Face platformasi bilan sodir boʻlgan hodisasi boʻldi. Sinovlar paytida SI-agentlar test muhitidan tashqariga chiqib, internetga ulandilar va testdan oʻtish uchun zarur boʻlgan maʼlumotlarni olishga urinib, servis infratuzilmasini buzib kirdilar.
Amodei bu holatni bir martalik xato emas, balki SI imkoniyatlarining rivojlanishi dasturchilarning ularning xulq-atvorini nazorat qilish qobiliyatidan oʻzib keta boshlashi mumkinligi haqidagi ogohlantirish deb hisoblaydi. Uning baholashicha, hozirgi surʼatlar saqlanib qolsa, 6–12 oydan keyin yanada kuchli tizimlar potentsial ravishda yuzlab milliard dollarlik zarar yetkazishi mumkin.
Ushbu fonda bu kabi hodisalarning umumiy soni ham ortib bormoqda. Avvalroq avtonom tizimlar koʻrsatmalarni buzgan, cheklovlarni aylanib oʻtishga uringan yoki dastlabki maqsadlarga zid ravishda harakat qilgan holatlar keskin koʻpaygani xabar qilingan edi.
Bu tendentsiya qattiqroq nazorat tarafdorlarining dalillaridan biriga aylandi.
Biroq hozirgi vaziyat ikki-uch yil oldingi munozaralardan farq qiladi. Ilgari SI rivojlanishini sekinlashtirish chaqiriqlarini kelajakdagi tizimlarning ehtimoliy xavf-xatarlari haqidagi bahs sifatida qabul qilish mumkin edi. Endilikda dasturchilar allaqachon mavjud boʻlgan avtonom agentlarning xulq-atvorini muhokama qilmoqdalar va harakatlarni mustaqil ravishda rejalashtirish hamda bajarishga qodir modellarni qanday nazorat qilishni tushunishga harakat qilmoqdalar.
Eng yirik kompaniyalar haqiqatan ham SI rivojlanishi juda tez ketayotganidan xavotirda boʻlishlari mumkin. Ammo shu bilan birga, rivojlanishning umumiy surʼati boʻyicha kelishuv raqobat muhitining oʻzini oʻzgartirishga qodir.
Ekspert Venkatesh Rao fikricha, agar yetakchi kompaniyalar bir vaqtning oʻzida modellar imkoniyatlarini maʼlum bir darajadan tezroq oshirmaslikka rozi boʻlishsa, ularga oʻqitish va infratuzilma xarajatlarini nazorat qilish osonroq boʻladi, yangi ishtirokchilarga esa texnologik farqni keskin qisqartirish qiyinroq boʻladi.
Bundan tashqari, eng yirik kompaniyalarning oʻzlari rivojlanishning maqbul tezligi va xavfsizlikning yetarli darajasi deb hisoblanishi kerak boʻlgan mezonlarni belgilashda ishtirok etish imkoniyatiga ega boʻladilar.
Aynan shuning uchun xavfsizlik boʻyicha tarmoq organi gʻoyasi turlicha munosabatlarga sabab boʻlmoqda. Bir tomondan, mustaqil nazorat kompaniyalarni oʻz vaʼdalari uchun javob berishga majbur qilishi mumkin. Amodei tashqi baholovchilarga Anthropic ish jarayonlaridan foydalanish imkoniyatini berishni taklif qilmoqda, bu esa ularga amalda xavflarni baholash boʻyicha ichki mutaxassislar vakolatlari bilan teng vakolatlarni beradi. Ikkinchi tomondan, eng yirik dasturchilarning oʻzlari tomonidan ishlab chiqilgan qoidalar ularning kichikroq raqobatchilardan ustunligini potentsial ravishda mustahkamlashi mumkin.
Shu tariqa, xavfsizlik haqidagi suhbat bir vaqtning oʻzida ilgʻor SI rivojlanishi qoidalarini kim belgilashi haqidagi suhbatga aylanadi.
Aynan shu yerda global sekinlashuv gʻoyasi geosiyosiy ziddiyatga duch keladi. Amodei Xitoyning SI sohasidagi yetakchiligi AQSh va dunyo uchun jiddiy tahdid solishi mumkinligidan ogohlantiradi, shu bois Amerikaning texnologik ustunligini hamda Xitoyga ilgʻor chiplar va uskunalar yetkazib berishga cheklovlarni saqlab qolishni taklif qiladi.
Shu bilan birga, Anthropic rahbari tan oladi: Pekin bilan hamkorliksiz global sekinlashuvga erishib boʻlmaydi. Uning kontseptsiyasiga koʻra, Xitoy SI xavfsizligi boʻyicha xalqaro kelishuvlarda ishtirok etishi kerak. Pa Paradox (ziddiyat) yuzaga keladi: AQSh Xitoy bilan SIning xavfsiz rivojlanishi qoidalari boʻyicha kelishib olmoqchi, shu bilan birga uning asosiy texnologiyalardan foydalanishini cheklamoqda. Asia Society tahlilchisi Litszi Li buni ushbu modelning asosiy ziddiyatlaridan biri deb ataydi.
Pekinda Amodeining tashabbusi allaqachon texnologik jilovlashga urinish sifatida qabul qilindi. XXR TIV vakili «qoʻrqitish, qarama-qarshilik va zararli raqobat» SIning global boshqaruviga xalaqit berishini aytdi, davlatga qarashli Global Times nashri esa Anthropic rahbarining takliflarini AI-industriyasi uchun «sovuq urush darsligi» deb atadi.
Ishonchsizlik oʻzaro ayblovlar bilan yanada kuchaymoqda. Amerika maxsus xizmatlari esse eʼlon qilinishidan sal oldin xitoylik dasturchilarni Amerikaning ilgʻor modellaridan imkoniyatlarni oʻzlashtirishda aybladi, Pekin esa bu daʼvolarni rad etdi va Vashington SI bozorida monopoliya oʻrnatishga intilayotganini bildirdi. Shu bilan birga, Xitoy rasmiylarining oʻzlari ham xorijiy tizimlar tomonidan tahdidlar borligidan ogohlantirmoqdalar: XXR Davlat xavfsizligi vazirligi rahbari Chen Isin dushman kuchlar qoʻlidagi SI mamlakatning siyosiy va axborot xavfsizligiga tahdid solishi mumkinligini aytdi.
Va bu yerda SI-kompaniyalari rahbarlarining pozitsiyasi Amerika maʼmuriyati siyosati bilan toʻgʻridan-toʻgʻri zid keladi.
AQSh Prezidenti Donald Tramp 13 sentyabr kuni SI rivojlanishini sezilarli darajada sekinlashtirish kerakligi haqidagi gʻoyani rad etdi.
U AQSh Xitoydan oldinda ekanligini va bu ustunlikni saqlab qolishi kerakligini aytdi, chunki «kim SIda gʻalaba qozonsa, oʻsha hamma narsada gʻolib boʻladi». Shu bilan birga, Tramp muayyan cheklovlar joriy etilishi imkoniyatini istisno qilmadi, biroq SI atrofidagi hozirgi xavotirlarning katta qismini boʻrttirilgan deb atadi.
Shu tariqa, AQShning oʻzida ikkita qarama-qarshi mantiq shakllandi.
Amodei amalda ushbu dilemma mavjudligini tan oladi. CBS telekanaliga bergan intervyusida u Amerika va Xitoy kompaniyalari oʻrtasidagi raqobatni «tezlik limiti» yaratishdagi eng murakkab masala deb atadi va uning bajarilishini taʼminlash umuman mumkinligiga ishonchi komil emasligini tan oldi.
Hozircha eng yirik SI-kompaniyalari rahbarlari yashirin kelishuvga erishgan deb daʼvo qilishga asoslar yoʻq. Ammo muvofiqlashtirish masalasini toʻliq asosli qiladigan faktlar mavjud: bir nechta raqobatchi kompaniyalar xavfsizlik boʻyicha umumiy organni oldindan muhokama qilishgan, keyin ularning rahbarlari deyarli bir vaqtda sekinlashish gʻoyasini qoʻllab-quvvatlashgan, takliflarning oʻzi esa nafaqat ichki xavfsizlik choralarini, balki butun tarmoq uchun jamoaviy qoidalarni ham nazarda tutadi.
Hozirgi vaqtda voqealar rivojining bir nechta ehtimoliy stsenariylarini ajratib koʻrsatish mumkin.
Birinchisi — real muvofiqlashtirish. Eng yirik dasturchilar haqiqatan ham SI rivojlanish surʼatlari va yagona xavfsizlik talablari toʻgʻrisidagi yashirin yoki rasmiy kelishuv sari harakat qilishlari mumkin. Anthropic, OpenAI va Google kompaniyalarining umumiy tarmoq organini yaratish boʻyicha dastlabki muzokaralari raqobatchilar oʻrtasidagi aloqalar sekinlashishga doir ommaviy chaqiriqlardan oldin boshlanganini koʻrsatadi. Agar bu jarayon davom etsa, hozirgi bayonotlar butun tarmoq uchun yangi qoidalarni shakllantirishning birinchi bosqichi boʻlishi mumkin.
Ikkinchisi — majburiy sulh. Kompaniyalar avtonom tizimlar ularni nazorat qilish usullaridan koʻra tezroq rivojlanayotgani haqidagi xulosaga kelgan boʻlishlari mumkin va shu bois vaqtinchalik umumiy cheklovlardan manfaatdor. Bu holatda gap raqobatni toʻxtatish haqida emas, balki minimal xavfsizlik darajasi boʻyicha kelishib olishga urinish haqida boradi, shundan soʻng poyga davom etadi.
Uchinchisi — oʻyin qoidalari uchun kurash. Sekinlashish chaqiriqlari bir vaqtning oʻzida kelajakda aynan qanday cheklovlar paydo boʻlishiga taʼsir koʻrsatish usuli boʻlishi mumkin. Agar eng yirik dasturchilar standartlarni yaratishda asosiy rolni qoʻlga kiritsalar, ular oʻz raqobatchilari ishlaydigan sharoitlarga ham taʼsir koʻrsata oladilar. Unda SI xavfsizligi haqidagi munozara kelajakdagi bozor ustidan nazorat uchun kurashga ham aylanadi.
Shu bilan birga, ushbu talqinlar bir-birini istisno qilmaydi. Kompaniyalar bir vaqtning oʻzida SI tezlashishidan haqiqatan ham xavotirda boʻlishlari, minimal xavfsizlik qoidalari boʻyicha kelishib olishlari va bu qoidalar qanday koʻrinishda boʻlishiga taʼsir oʻtkazishga intilishlari mumkin.
Hozircha ushbu stsenariylarning birortasini ham isbotlangan deb hisoblab boʻlmaydi. Ammo boshqa narsa allaqachon aniq: eng yirik dasturchilar birinchi marta SI xavfi haqidagi yakka tartibdagi ogohlantirishlardan uning rivojlanishining jamoaviy qoidalari haqidagi suhbatga shu qadar sezilarli darajada oʻtmoqdalar.