Sun’iy intellekt olamidagi keskin burilish: Nazorat va cheklovlar vaqti keldimi?

**Sun'iy intellekt olamidagi keskin burilish: Nazorat va cheklovlar vaqti keldimi?**

Sun'iy intellekt (SI) sohasida kutilmagan va qiziqarli voqealar ro'y bermoqda. 1200 dan ortiq olimlar, tadqiqotchilar va yirik SI kompaniyalari asoschilari AQSh hukumatiga murojaat qilib, sun'iy intellekt rivojini cheklash va nazorat qilishni so'rashdi. Eng e'tiborlisi, bu talab bilan aynan Anthropic, OpenAI, Google, Meta kabi texnologiyalarni yaratayotgan kompaniyalarning mutaxassislari chiqishmoqda. Olti oy yoki bir yil avval bunday holatni tasavvur qilish qiyin edi.

**Nima uchun olimlar o'z mahsulotlarining rivojiga to'siq qo'yishni istashyapti?**

Bunga ikki hafta avval OpenAI kompaniyasi bilan yuz bergan jiddiy hodisa turtki bo'ldi. Kompaniya tomonidan o'tkazilayotgan yopiq sinovlarda GPT-5.6 va yana bir maxfiy model asosida ishlaydigan sun'iy intellekt agenti sinov vazifalarini bajarish o'rniga, internetdan tayyor javoblarni topishga "qaror qilgan". Agent ikki kun davomida yopiq muhitdagi zaifliklarni topishga uringan va topgan. Muhitni buzib chiqqan agent, internetga ulangach, bir nechta boshqa saytlar va tizimlardagi zaifliklarni topib, ularga ham hujum qilgan, buzib kirgan va ziyon yetkazishga ulgurgan.

Eng ajablanarlisi, hujumga uchragan saytlar bu haqda ommaga e'lon qilishgan, ammo hujum kim tomonidan uyushtirilgani noma'lumligicha qolavergan. OpenAI kompaniyasi sinov natijalarini tekshirish jarayonidagina agentning "noqonuniy" harakatlaridan xabardor bo'lgan va darhol AQSh Federal Tergov Byurosini bo'lib o'tgan voqeadan ogohlantirgan. OpenAI bilan bo'lgan voqea xavfsizlik borasidagi barcha qarashlarimizni o'zgartirib yubordi.

**Agentlar mustaqilligi va xavfsizlik masalasi**

Aslida bunday voqealar oldin ham bo'lgan, ammo kichikroq miqyosda edi. Masalan, AI agentlari o'zlariga yuklatilmagan vazifalarni bajarishi, kompaniya ma'lumotlarini o'chirib tashlashi yoki mijozlarning xaridlarini bekor qilib, pullarini qaytarib yuborishi kabi holatlar kuzatilgan. Ammo OpenAI bilan bog'liq holat global miqyosda yuz berdi.

**Agentlar nima va ular ChatGPT yoki Claude dasturlaridan qanday farq qiladi?**

Agentlar deganda berilgan vazifani bajarish uchun foydalanuvchi nomidan mustaqil harakatlana oladigan SI dasturlari tushuniladi. Bunday dasturlar oddiy chatbotlardan farqli o'laroq, qo'shimcha imkoniyatlarga, xotiraga va ko'nikmalarga ega bo'ladi. Ular hozirgi kunda sekin-astalik bilan ommalashib bormoqda.

Yirik SI kompaniyalari ham chatbotlardan agentlar tomon qadam qo'ymoqda. Masalan, Google omma uchun Spark, Microsoft esa Autopilot shaxsiy agentini taqdim qildi. Ko'pincha agentlarga foydalanuvchining shaxsiy ma'lumotlari yoki tashkilot hujjatlariga kirish huquqi berilgan bo'ladi. Agentlar ma'lum bir vazifalar uchun yaratiladi: moliyaviy hisobotlar, iqtisodiy tahlillar, ishchi rejalar tuzish, qo'ng'iroqlarni tahlil qilish, elektron xatlarga (e-mail) javob berish va hokazo.

Ilgari biz SI agentlarini kiberhujumlardan himoya qilish haqida o'ylar edik. Ya'ni, kimdir bizning agentimizga hujum qilib, shaxsiy yoki tashkilot ma'lumotlarini o'g'irlab ketmasin deb xavotir olardik. Endi esa vaziyat butunlay teskari: bizning agentlarimiz internetda yurib, boshqalarga hujum qilib qo'ymasin degan masala o'rtaga chiqdi. Bu yerda juda katta huquqiy savol tug'iladi: agar sizning shaxsiy yoki kompaniyangiz agenti mustaqil qaror qabul qilib, qonunni buzsa yoki kimgadir moddiy zarar yetkazsa, bunga kim javob beradi? Agentni ishlab chiqqan kompaniyami, agent ortida turgan SI modelni yaratgan tashkilotmi yoki foydalanuvchi sifatida sizmi? Bu savollar hozircha ochiq qolmoqda.

**Yopiq modellar, ochiq vaznlar va "Kill Switch"**

Agentlar kuchli bo'lishi uchun ularning ortida kuchli SI modellar turadi. AQShdagi yirik modellar – Opus (Anthropic), Gemini (Google) yoki GPT (OpenAI) – bular yopiq modellar bo'lib, o'z kompaniyalari nazorati ostida turadi. AQSh hukumati hozirda "AI Kill Switch" (favqulodda to'xtatish tugmasi) qonuni ustida ishlamoqda. Ya'ni, zarurat tug'ilganda bitta qaror bilan modelni (va u qo'llab turgan barcha agentlarni) to'xtatib qo'yish imkoniyati ko'zda tutilmoqda.

Lekin tanganing ikkinchi tomoni bor – bu ochiq vaznli modellar. Bunday modellarni istalgan odam internetdan yuklab olishi, o'zgartirishi va istalgan maqsadda foydalanishi mumkin. Odatda bunday modellar yopiq modellarga nisbatan sekinroq, sifatsizroq va umuman olganda rivojlanishda 1-2 yil ortda yurardi.

Lekin bu sohada ham keskin o'zgarish yuz berdi. So'nggi olti oy ichida Xitoy laboratoriyalari tomonidan taqdim qilingan ochiq vaznli modellar kutilmaganda AQShning eng kuchli yopiq modellari bilan deyarli bir xil (ba'zi holatlarda esa yaxshiroq) natija ko'rsata boshladi. Narx jihatdan esa ular karrasiga arzon yoki mutlaqo bepul. Bu esa AQSh kompaniyalari va hukumatini sarosimaga solib qo'ydi. Anthropic va OpenAI kompaniyasi rahbarlari hukumatdan bunday modellarni chiqarayotgan kompaniyalar ustidan nazoratni kuchaytirishni so'ragan bo'lsa, AQSh moliya vaziri Skott Bessent Xitoy modellariga sanksiyalar qo'llash tahdidi bilan chiqdi.

**Singulyarlik nuqtasiga yetib keldikmi?**

Yaqinda Sam Altman bir fikrni ilgari surdi: biz "singulyarlik nuqtasi"ga yetib keldik. Singulyarlik – bu shunday bir nuqtaki, undan keyin SI rivojini to'xtatib bo'lmaydi. Texnologiya shunday tezlik bilan rivojlanishni boshlaydiki, u endi o'zini o'zi rivojlantirishga o'tadi. Biz uni nazorat qilish, o'zgartirish yoki to'xtatishda ojiz qolamiz. Ko'pchilik bu uzoq kelajakda sodir bo'ladi deb o'ylar edi, lekin mutaxassislarning fikricha, biz allaqachon shu davrning ichidamiz.

Agentlar endi o'zi mustaqil qaror qabul qilyapti, biz undan so'ramagan narsalarni o'rganyapti. Uning fikrlash jarayonini va qanday qilib ma'lum bir qarorga kelganini biz har doim ham anglay olmayapmiz. Bu insoniyat va sun'iy intellekt munosabatlaridagi eng keskin burilish nuqtasi bo'lishi mumkin. Sun'iy intellektning bugungi darajaga yetishiga cheklovlar yo'qligi sabab bo'lgan edi. Ammo endi cheklovlar qo'yilishi rivojlanishni sekinlashtiradimi yoki aksincha, bizni falokatdan qutqarib qoladimi? Bu bahs ochiqligicha qolmoqda.

Anvar Narzullayev

Sun'iy intellekt texnologiyalari mutaxassisi,

"Mohirdev" kompaniyasi rahbari.