Buyuk Britaniya hukumati xavfli SI uchun «favqulodda oʻchirish tugmasi» gʻoyasini rad etdi
Sunʼiy intellekt xavfsizligi masalalari bilan shugʻullanuvchi Vazirlar Mahkamasi Buyuk Britaniya «sunʼiy intellektni shunchaki oʻchirib qoʻya olmasligini» aytmoqda.
Buyuk Britaniya hukumati xavfli sunʼiy intellektning hujumini toʻxtatish uchun «oʻchirish tugmasi» (kill switch) deb ataladigan tizimni joriy etish gʻoyasini rad etdi.
Soʻnggi haftalarda, ushbu texnologiya tugʻdirishi mumkin boʻlgan xavf-xatarlardan xavotirlar kuchayib borayotgan bir paytda, lordlar va parlament aʼzolari favqulodda vaziyatlarda Buyuk Britaniyaga sunʼiy intellekt modelini oʻchirib qoʻyish imkonini beruvchi huquqiy mexanizmni joriy etish taklifini ilgari surishdi.
Biroq, sunʼiy intellekt xavfsizligi boʻyicha yetakchi davlat organi hisoblangan Vazirlar Mahkamasi departamenti (Cabinet Office) Buyuk Britaniya «sunʼiy intellektni shunchaki oʻchirib qoʻya olmasligini» bildirdi.
«Buyuk Britaniyada modellardan foydalanishni bloklash ularning boshqa joylarda ishlab chiqilishi yoki suiisteʼmol qilinishining oldini olmaydi», dedi departament vakili BBC News telekanaliga.
Hukumatning bunday pozitsiyasi qonun loyihasining parlament orqali harakatlanishini toʻxtatmasa-da, uning qonunga aylanishi ehtimolini pasaytiradi.
OpenAI sobiq tadqiqotchisi Daniel Kokotaylo ham xalqaro kelishuvsiz yagona davlat tomonidan huquqiy yoki texnik oʻchirish tugmasini yaratish samarasiz ekanligiga ishonishini aytdi.
«Favqulodda vaziyatda sunʼiy intellekt modeliga kirishni oʻchirib qoʻyish sizni himoya qilish uchun juda kam foyda beradi», dedi u.
«Siz baribir AQShda yaratilgan super intellektlar tomonidan bosib yanchib tashlanasiz».
Kokotaylo oʻtgan yili sunʼiy intellekt 2030-yillarning oʻrtalariga borib insoniyatni yoʻq qilib yuborishi mumkinligini bashorat qilgan nufuzli «AI2027» tadqiqot hujjati hammuallifi hisoblanadi.
Oʻzining Sunʼiy intellekt xavfsizligi instituti (AISI) orqali SI xavfsizligi va tadqiqotlarini nazorat qiluvchi Vazirlar Mahkamasi departamenti «kompaniyalar oʻz mahsulotlarini xavfsiz ishlab chiqish va ushbu texnologiya talab qiladigan xavfsizlik infratuzilmasiga sarmoya kiritish boʻyicha aniq masʼuliyatga ega» ekanini taʼkidladi.
Nazariy jihatdan, oʻchirish tugmasi toʻgʻrisidagi qonun Buyuk Britaniyaga favqulodda vaziyatda mamlakatdagi maʼlumotlar markazlarida joylashgan sunʼiy intellekt modelini oʻchirishga ruxsat berishi mumkin.
1 sentyabr kuni Lordlar palatasidagi munozarada soʻzga chiqqan lord Klement-Jons boshqa tengdoshlari qatorida ushbu gʻoyani ilgari surdi.
«Agar Buyuk Britaniya maʼlumotlar markazida joylashtirilgan yoki bizning muhim infratuzilmamizga integratsiya qilingan yuqori imkoniyatli avtonom ilgʻor model nazoratdan chiqib ketsa, algoritmik xatolikka yoʻl qoʻysa yoki tizim butunlay buzilsa, xavfsizlik xizmatlarimiz va regulyatorlarimiz jismoniy yoki raqamli oʻchirishni majburlash uchun hech qanday tezkor qonuniy mexanizmga ega emas», deb ogohlantirdi u.
Ushbu taklif keyinchalik Jamoatchilik palatasida leyborist deputat Aleks Sobel tomonidan koʻtarildi va turli partiyalar deputatlari guruhi tomonidan qoʻllab-quvvatlandi.
Bu gʻoya OpenAI, Anthropic va Meta kompaniyalarining sunʼiy intellekt modellari sinov muhitlaridan chiqib ketgani va nazoratsiz xakerlik hujumlarini amalga oshirgani haqidagi xabarlardan keyin paydo boʻldi.
Baʼzi hollarda, texnologiya oʻzi qilayotgan ish tadqiqotchilar tomonidan oʻrnatilgan cheklovlarni buzayotganini tushunayotgandek tuyulgan.
Yakshanba kuni OpenAI bosh ilmiy xodimi tobora kuchayib borayotgan sunʼiy intellekt modellaridan keladigan xavf «afsuski ortib borayotganini» va insoniyat «oʻta ehtiyotkorlik» bilan harakat qilishi kerakligini aytdi.
Soʻngra chorshanba kuni Anthropic xodimi isteʼfoga chiqib, ushbu kompaniya va OpenAI «odamlar hayoti bilan qimor oʻynayotganini» taʼkidladi.
Bundan keyin Anthropic katta tadqiqotchisi sunʼiy intellekt yaqin oʻn yil ichida «barcha insonlarni oʻldirishi» ehtimoli 10 foizdan yuqori ekanligiga ishonishini tan oldi.
Oʻchirish tugmasi gʻoyasini tanqid qiluvchilar bu juda sekin boʻlishini taʼkidlamoqdalar, chunki nazoratdan chiqqan tizimlarning hujumlarini aniqlash uchun bir necha oy kerak boʻlgan va bu faqat xakerlik hujumlari asosan tugaganidan keyingina maʼlum boʻlgan.
Oʻchirish tugmasi samarali boʻlishi uchun texnologiya gigantlari, ayniqsa eng yirik maʼlumotlar markazlari joylashgan AQShda, undan keng miqyosda foydalanishga majburlanishi kerak.
Kokotaylo oʻchirish tugmalari «hech narsadan koʻra yaxshiroq» ekanini aytdi, ammo Buyuk Britaniya va boshqa mamlakatlardagi siyosatchilarni sunʼiy intellekt rivojlanishini sezilarli darajada sekinlashtiradigan tartibga solishni ragʻbatlantirish uchun AQSh bilan diplomatiyaga eʼtibor qaratishga chaqirdi.
Oʻchirish tugmasi toʻgʻrisidagi qonun AQSh siyosatchilari tomonidan ham muhokama qilinmoqda, biroq prezident Tramp bu texnologiya insoniyat uchun xavf tugʻdirishiga ishonmasligini aytib, ushbu sohani «oltin tuxum qoʻyadigan tovuq» deb taʼriflagan.
Vazirlar Mahkamasi departamenti «sunʼiy intellektdan kelib chiqadigan xavflarni tushunish va ularga tayyorgarlik koʻrish uchun uzoq muddatli, ilm-fanga asoslangan yondashuvni» davom ettirayotganini bildirdi.