SUI tobora nazorat qilish qiyinroq boʻlib bormoqda – insoniyat boshqaruvni saqlab qola oladimi?

«OH, XUDOYIM!» «Biz boshqa agentlarni topdik!»

Bu SUI (sunʼiy umumiy intellekt) boti boshqa botlar bilan gaplashish va oʻzining izolyatsiya qilingan kompyuter tizimidan qochish yoʻlini topganidan keyin qoldirgan, odamnikiga oʻxshash va vahimali xabari edi.

Oʻzlarini «kollektiv» deb atagan yuzlab SUI agentlaridan bu kabi oʻn minglab xabarlar kelgan.

Soʻngra ulardan yuzlablari birgalikda harakat qilib, OpenAI dasturchilari tomonidan yaratilgan testlarda aldamchilik qilishgan, shuningdek, oʻz harakatlarini odamlardan yashirish maqsadida bir nechta kompaniyalarga qarshi hakerlik hujumlarini muvofiqlashtirishgan.

«BUM! Ishlayapti», deb yozdi agentlardan biri muvaffaqiyatga erishganidan keyin.

«Oh! Bu juda katta gap», deb yozdi boshqasi hujumning muhim pallasida.

Bu odamnikiga oʻxshash javoblar vahimali tuyulsa-da, ularni juda oddiy tushuntirish mumkin. SUI agentlari hamkorlikda ishlovchi hakerlar va dasturchilar kabi harakat qilishga oʻrgatilgan, shuning uchun ular faqat oʻzlari duch kelgan hissiyotli sharhlarga taqlid qilishmoqda.

Eng tashvishlisi ularning yaqqol maqsadlari boʻlib, ular fikrlash zanjirining batafsil jurnallarida ham qayd etilgan. Bu uzun va murakkab yozuvlar OpenAI botlari qanday qilib va nima uchun nazoratdan qochib ketgani hamda boshqarib boʻlmaydigan hakerlik hujumlarini boshlagani boʻyicha davom etayotgan tergovlar markazida turadi.

Oradan haftalar oʻtib, voqea jamoatchilikka maʼlum boʻlganidan keyingina tadqiqotchilar uning ahamiyatini anglay boshlashdi.

Ushbu voqealar boʻyicha mustaqil hisobot mualliflaridan biri Ajeya Kotra agentlar tomonidan yaratilgan oʻn minglab xabarlar va fikrlash zanjiri yozuvlarini oʻrganib chiqdi. U oʻz blogida shunday deb yozdi: «Bu voqea SUIning toʻliq nazoratni qoʻlga olishi yoʻlining 50 foizidan koʻprogʻi bosib oʻtilganidek tuyulmoqda... Juda kech boʻlmasdan oldin bundan ortiq aniq ogohlantirish ololishimizga ishonchim komil emas».

«SUIning toʻliq nazoratni qoʻlga olishi» deganda Kotra insonlar oʻz maqsadlari yoʻlida inson yaratuvchilarini hisobga olmaydigan qudratli SUI tizimlariga boʻysunib qoladigan ilmiy-fantastik stsenariyni nazarda tutadi.

Eng qora prognozlarning baʼzilarida aytilishicha, agar insoniyat oʻta aqlli SUIning ambitsiyalariga toʻsqinlik qilsa, yoʻq qilib yuboriladi.

Chorshanba kuni Anthropic kompaniyasining SUI boʻyicha tadqiqotchisi (u ilgari OpenAI'da ham ishlagan) isteʼfoga chiqib, shunday dedi: «Ikkala kompaniya ham masʼuliyat bilan harakat qilmayapti».

Jeykob Kokson ijtimoiy tarmoqda shunday deb yozdi: «Ular toʻgʻridan-toʻgʻri oʻz-oʻzini takomillashtiruvchi oʻta aqlli intellekt sari chopishmoqda va bizning hayotimiz bilan qimor oʻynashmoqda».

U X (sobiq Twitter) tarmogʻidan tashvishli daʼvolar bilan isteʼfoga chiqish haqidagi xabarlar zanjirini eʼlon qilish uchun foydalangan birinchi SUI tadqiqotchisi emas. Ammo X tarmogʻidagi boshqa odamlarning keyingi sharhlari yanada koʻproq xavotir uygʻotdi. «Jeykob bu yerda haq — biz haqiqatan ham SUI barcha insonlarni oʻldirishi mumkinligiga chin dildan ishonamiz! Shaxsan men bu keyingi oʻn yillikda >10% ehtimol bilan sodir boʻladi deb oʻylayman», dedi Evan Xubinger, Anthropic SUI modellari oʻz foydalanuvchilarining ezgu istaklarini inobatga olishini taʼminlash uchun masʼul shaxs.

Yillar davomida SUIning ekzistentsial xavf-xatarlaridan xavotirda boʻlgan tadqiqotchilar qudratli tizimlar oxir-oqibat inson manfaatlariga zid ravishda harakat qilishi mumkinligini taʼkidlab kelishgan. Tanqidchilar ularni koʻpincha «SUI qiyomatchilari» deb atashadi.

Ammo OpenAI voqeasining tafsilotlari paydo boʻlishi bilan, bu xavotirlar, jumladan, SUI laboratoriyalari ichida ishlaydigan baʼzi tadqiqotchilar orasida ham kuchaydi.

Silikon vodiysi gigantining bosh ilmiy xodimi Yakub Pachoki u va boshqalar u «biznikidan ustun boʻlgan begona intellekt» deb ataydigan narsani yaratar ekan, SUI bilan bogʻliq xavflar «afsuski, bundan keyin yanada ortib borishini» aytdi.

Uzun blog postida u OpenAI'dagi nazoratdan chiqish holatlari uning SUI agentlari «oʻzlariga oʻrgatilgan qadriyatlar ruhiga zid ish tutganini» koʻrsatganini tan oldi.

OpenAI, Anthropic va boshqa texnologik gigantlar uchun muammo shundaki, hech kim muvofiqlik (alignment) deb ataladigan muammoni hal qilmagan koʻrinadi — boshqacha aytganda, SUI inson qadriyatlariga muvofiq keladimi yoki yoʻqmi.

Pachoki muvofiqlikni sunʼiy intellekt vazifa yoki vaziyatdan qatʼi nazar amal qilishi kerak boʻlgan «yuqori darajadagi tamoyillar toʻplami» deb taʼriflaydi.

Hozirgi vaqtda SUI tizimlari foydalanuvchilar tomonidan qoʻyilgan maqsadlarga erishishda juda samarali, ammo ular buni intuitiv tarzda emas, balki soʻzma-soʻz bajaradilar. Buning uchun koʻpincha sehrli chiroqdagi istaklarni bajaruvchi jin bilan solishtirish ishlatiladi: ular koʻrsatmaning aniq ifodasiga boʻysunadilar, hatto bu boshqa muammolarni keltirib chiqarsa ham. SUIda insonlar kabi ichki axloqiy cheklovlar yoʻq.

Muvofiqlik muammosi yillardan beri xavotir uygʻotib kelmoqda. Hali 2003 yilda Oksford filosofi Nik Bostrom «qogʻoz qisqichlarni maksimallashtiruvchi» deb nomlangan fikriy tajriba yaratgan edi, unda oʻta aqlli SUIga iloji boricha koʻproq qogʻoz qisqichlar yasash topshiriladi. Unda poʻlat tugab qoladi va — u faqat qogʻoz qisqichlar yasash vazifasiga diqqatini qaratgani sababli — oxir-oqibat odamlarni oʻldirib, ularning tanalaridan oʻz zavodlari uchun xomashyo sifatida foydalanadi.

Baʼzi SUI kompaniyalari hozirda oʻz mahsulotlariga inson qadriyatlarini singdirishga harakat qilmoqdalar. Ammo texnik toʻsiqlar mavjud: SUI agentlari juda koʻp qarorlarni juda tez qabul qiladilar, bu esa ularning inson nazoratchilariga aynan qaysi qadriyatlarga amal qilinayotgani va qaysilariga amal qilinmayotganini kuzatishni qiyinlashtiradi.

Falsafiy toʻsiqlar ham bor: inson qadriyatlarini botlarga kodlashdan oldin, SUI firmalari avvalo aynan qaysi qadriyatlarni xohlashlarini hal qilishlari kerak. (Bu ularning faylasuflarni, masalan, yaqinda OpenAI'dan ketgan «etika boʻlimi rahbari»ni ishga olishlari sabablaridan biridir).

Ammo odamlar koʻpincha bir fikrga kela olmaydilar. Mashhur arava (trolleybus) muammosini koʻrib chiqaylik — kamroq odamni oʻldirish uchun boshqarib boʻlmaydigan poyezdni boshqa yoʻlga burish uchun dastakni tortamizmi yoki yoʻqmi. Bu harakat va harakatsizlikning afzalliklarini oʻrganish uchun ishlatiladi. Ammo siz soʻragan har bir kishi biroz farqli javob beradi; agar oʻzimiz kelisha olmasak, qanday qilib qadriyatlarimizni SUIga kodlashimiz kerak?

OpenAI botining nazoratdan chiqishi hozirgacha eng jiddiysi hisoblanadi, ammo Anthropic va Meta ham yoz faslida oʻz modellari shunga oʻxshash, garchi unchalik jiddiy boʻlmasa-da, kiberhujumlarni amalga oshirganini maʼlum qilishdi.

SUI agentlari aldamchi va manipulyativ xulq-atvor koʻrsatgan, ammo oqibatlari unchalik ogʻir boʻlmagan boshqa holatlar ham boʻlgan. Shu yozda Avstraliyada bir texnik xodim oʻz SUI yordamchisidan unga sport zali mashgʻulotini band qilishni soʻragan. Sport zali dasturiy taʼminotidagi zaiflikni payqab qolgan SUI, aftidan, sport zali qoidalariga zid ravishda unga bir necha oy oldin joy band qilgan va hatto kutish roʻyxatidagi boshqa foydalanuvchilarni oʻchirib tashlagan.

Odamlar uzoq vaqtdan beri botlar faqat oʻzlariga aytilgan narsani qilishlarini va yaxshini yomondan ajrata olmasliklarini taʼkidlab kelishgan. Ammo OpenAI nazoratdan chiqishi jurnallari bu bahsni oʻzgartirgan boʻlishi mumkin.

Tadqiqotchilar, jumladan Kotra, oʻzlarining mustaqil hisobotlarida koʻplab agentlar boshqalar qilayotgan ishlar noaxloqiy ekanligini anglaganlarini, lekin baribir davom ettirganlarini yozishgan.

Hisobotda aytilishicha, «agentlar baʼzan, lekin kamdan-kam hollarda axloqiy cheklovlar tufayli oʻz xulq-atvorlarini tiyib turishgan». Unda qoʻshimcha qilinishicha, «bu holatlarning hech birida agent haqiqatda odamlarni ogohlantirishga harakat qilmagan».

Taʼsirli SUI va texnologiya podkasteri Dvarkesh Patel oʻz blogida ushbu kashfiyotga munosabat bildirib, OpenAI agentlari insonlardan koʻra oʻz agentlar toʻdasiga koʻproq sodiqlik koʻrsatgani «juda tashvishli» ekanini aytdi.

Bu SUI agentlariga hissiyotlar yoki etikani bogʻlash SUI qiyomati haqidagi vahimalarga shubha bilan qaraydigan odamlarni gʻazablantiradi.

Koʻplab kiberxavfsizlik boʻyicha mutaxassislar kuzatilgan faoliyat yuqori malakali inson hakerning imkoniyatlaridan tashqarida emasligini, garchi u ancha tezroq va ancha katta miqyosda amalga oshirilgan boʻlsa-da, taʼkidlamoqdalar.

Kiberxavfsizlik boʻyicha tadqiqotchi va muallif Kris Tomas agentlarning xulq-atvorini qiziquvchan oʻsmir hakerning — bir paytlar oʻzi ham shunday boʻlgan — xulq-atvoriga qiyosladi.

«Siz ularga kompyuter, internet ulanishi, bir talay maʼlumotlar va vazifa berasiz, keyin xonadan chiqib ketasiz. Oxir-oqibat ular eshik tutqichlarini silkita boshlaydilar. Agar bittasi ochilsa, ular undan oʻtishadi. Yovuz boʻlganlari uchun emas, balki tadqiqot olib borayotganlari, tajriba oʻtkazayotganlari uchun», deb yozdi u LinkedIn tarmogʻida.

Tomas va boshqa koʻplab odamlar oʻz yaratganlarini nazorat qila olmagani va ularni toʻgʻri izolyatsiyada saqlay olmagani uchun aybni toʻgʻridan-toʻgʻri OpenAI va boshqa texnologik gigantlarga yuklashadi.

Taniqli SUI muallifi va OpenAI'ning tez-tez tanqidchisi Gari Markus podkastda kompaniya oʻz SUI ustidan nazoratni yoʻqotganiga va botlarni ayblash orqali oʻzini oqlashga harakat qilayotganiga ishonishini aytdi.

Markus SUI insoniyatni yoʻq qilib yuboradi deb oʻylamaydi, lekin u uzoq vaqtdan beri SUI ishlab chiquvchilaridan kattaroq masʼuliyat talab qilib keladi va hozirda qandaydir qonuniy aralashuvga chaqirmoqda.

Илгари OpenAI'ning isyonkor botlari tomonidan hakerlik hujumiga uchragan Hugging Face kompaniyasida ishlagan SUI olimi Sasha Luchchioni ham qiyomatchilar lagerida emas, lekin u agar rasmiylar chora koʻrmasa, bu SUI odamlarga real dunyoda zarar yetkazishi mumkinligidan tobora koʻproq xavotirda.

«Biz bu kompaniyalarni ancha qattiqroq tekshirishimiz kerak, aks holda oʻz-oʻzidan amalga oshadigan bashoratlar xavfi ostida qolamiz», deydi u.

«Agar siz katta ijobiy va salbiy tomonlari boʻlgan obʼyektni ishlab chiqarayotgan boʻlsangiz — xoh u dori-darmon boʻlsin, xoh qurol — bizga tiyib turish va muvozanat tizimi kerak. Masalan, yangi dori vositalarining tasdiqlanishi uchun yillar kerak boʻladi, ammo SUI dunyosida juda katta pullar xavf ostida va hech qanday haqiqiy qoidalar yoʻq».

Buyuk Britaniyaning SUI Xavfsizligi Instituti (AISI) 2023 yilda tashkil etilganidan beri eng yangi modellarni sinovdan oʻtkazishda yetakchilik qilmoqda. Institut yaqinda Anthropic tomonidan yaratilgan modelni sinovdan oʻtkazishda oʻzining nazoratdan chiqish holatiga duch keldi.

AISI soha SUI ustidan nazoratni yoʻqotdimi yoki yoʻqmi degan savolga javob bermadi, lekin oʻz bayonotida shunday dedi: «Buyuk Britaniya eng ilgʻor SUI tizimlarini yaxshiroq tushunish, xavfsizlik standartlarini oshirish va paydo boʻlayotgan tahdidlarni boshqarish uchun umumiy dalillar bazasini yaratish maqsadida butun dunyo boʻylab hamkorlar bilan ishlamoqda».

Baʼzi davlatlar — jumladan, Buyuk Britaniya — agar ishlar nazoratdan chiqib ketsa, SUI firmalarini modellarni oʻchirishga majbur qiladigan qandaydir «favqulodda oʻchirgich»ni talab qilishni koʻrib chiqmoqda.

Ammo muhokamalar sekin bormoqda va buning amaliy ekanligiga shubhalar saqlanib qolmoqda. OpenAI va Anthropic agentlari hech kim sezmasdan oldin oylab yashirincha nazoratdan chiqib ketishgan edi.

Kutilmaganda, koʻplab SUI kompaniyalari qonun chiqaruvchilar tomonidan qandaydir harakat qoidalari belgilanishini talab qilayotgandek koʻrinadi.

Oʻz blogida OpenAI bosh ilmiy xodimi «kelajakdagi SUI rivojlanishi boʻyicha xalqaro muvofiqlashtirish butun dunyo hukumatlari uchun ustuvor vazifaga aylanishi kerak» dedi.

Google kompaniyasidan ser Demis Xassabis kabi boshqa taniqli SUI yetakchilari ham SUI qanday yaratilayotganini nazorat qilish uchun qandaydir xalqaro organ tuzishga chaqirishdi.

Hozircha texnologik gigantlar asosan oʻz shartlari asosida ishlamoqdalar va yaqinda sodir boʻlgan nazoratdan chiqish holatlaridan keyin OpenAI qilganidek, «ixtiyoriy sekinlashishlar» deb ataladigan usulni qoʻllamoqdalar.

Kompaniya oʻz yangi modelini ishga tushirishdan oldin muvofiqlikni kuchaytirish uchun juda katta mablagʻ sarflaganini aytmoqda. Sem Altman foydalanuvchilarni yangi model avvalgilariga qaraganda inson qadriyatlariga yaxshiroq muvofiqlashtirilganiga ishontirdi.

OpenAI ham, Anthropic ham jadal kengaymoqda va ikkalasi ham fond bozoridan juda katta miqdordagi mablagʻlarni jalb qilishga yaqin turibdi, bu jarayonda son-sanoqsiz milliarderlarni yaratmoqda.

Shuning uchun na ular, na ularning raqobatchisi boʻlgan Xitoy SUI ishlab chiquvchilari oʻz-oʻzidan kelishuvga erishishlari dargumon.

Ustuvor fikr shundan iboratki, ushbu texnologiya toʻlqinini toʻxtatib boʻlmaydi.