Sunʼiy intellektni «favqulodda oʻchirish tugmasi» majburiy boʻlishi kerak boʻlishi mumkin, deydi Anthropic hammuassisi
Jek Klarkning aytishicha, «aksariyat laboratoriyalarda faoliyatni toʻxtatishning turli usullari mavjud», ammo u bu majburiy talabga aylanishi kerak boʻlishi mumkinligini aytmoqda.
Sunʼiy intellektni (SI) favqulodda oʻchirish tugmasi («kill switch») uchinchi tomon tomonidan tekshirilishi mumkin boʻlgan holda kompaniyalar uchun majburiy qilib qoʻyilishi kerak boʻlishi mumkin, deydi dunyodagi eng yirik SI firmalaridan birining hammuassisi.
Anthropic kompaniyasining yetti nafar asoschisidan biri Jek Klarkning aytishicha, SI dasturiy taʼminoti haddan tashqari xavfli boʻlib qolgan taqdirda uni toʻliq oʻchirib qoʻyish usuli jamiyat «vaqti kelib tegishli qoidalarni qabul qilishni xohlashi mumkin boʻlgan» choralar sirasiga kiradi.
Klarkning taʼkidlashicha, «aksariyat laboratoriyalarda, jumladan Anthropic’da ham tizimni tarmoqdan uzishning turli usullari mavjud», biroq siyosatchilar buni majburiy talabga aylantirishi kerak boʻlishi mumkin.
Uning bu fikrlari SI kompaniyalarining tobora koʻproq rahbarlari va xodimlari, shuningdek, SI sohasi mutaxassislari SI butun insoniyatni yoʻq qilib yuborishi mumkinligi haqida ommaviy ravishda ogohlantirayotgan bir paytda yangradi.
Oʻtgan dam olish kunlari Anthropic rahbari Dario Amodei SI rivojlanishini sekinlashtirish va uni yanada qattiqroq nazorat qilishga chaqirdi (kompaniya bundan oldin ham shunday qilgan edi), garchi baʼzilar bu pozitsiya ortidagi motivlarni shubha ostiga olgan boʻlsa-da.
Amodei SI rivojlanishini aynan qanday qilib sekinlashtirish mumkinligini tushuntirmadi va SI rivojlanishini jilovlashga qaratilgan har qanday harakat «tijorat ustunligini qurbon qilmasdan» amalga oshirilishi kerakligini aytdi.
Klark BBC’ga bergan intervyusida «oʻchirish tugmasi» qoidalari va uni tekshirish tafsilotlari SI atrofidagi «kengroq siyosiy muhokamalarning» bir qismi boʻlishi kerakligini taʼkidladi.
«Kompaniyalar uchun oʻchirish tugmasi boʻlishini majburiy qilib qoʻyish kerakmi? Bu oʻchirish tugmasi uchinchi tomon tomonidan tekshirilishi mumkinmi?» deb soʻradi u.
«Menimcha, bu jamiyat bilmoqchi boʻlgan va vaqti kelib tegishli qoidalarni qabul qilishni xohlashi mumkin boʻlgan narsadir».
2021 yilda raqobatchi OpenAI kompaniyasining sobiq xodimlari tomonidan asos solingan Anthropic hozirda SI xavfsizligi boʻyicha bahs-munozaralar markazida turibdi.
Oʻtgan hafta SI insoniyatni yoʻq qilib yuborishi mumkinligidan qoʻrqib Anthropic kompaniyasini tark etgan sunʼiy intellekt tadqiqotchisining posti ijtimoiy tarmoqlarda keng tarqaldi.
Bunga javoban Anthropic olimi Evan Xubinger shaxsan oʻzi SI tufayli insoniyatning qirilib ketish ehtimolini «yaqin oʻn yil ichida >10%» deb hisoblashini aytdi.
Kompyuter olimi va Nobel mukofoti sovrindori, «SI choʻqintirgan otasi» sifatida tanilgan Jeffri Xinton juma kuni BBC’ga bergan intervyusida SI barcha odamlarni oʻldirishining 10 foizlik ehtimoli «asossiz emas»ligini aytdi.
SI tomonidan barcha insonlarning yoʻq qilinishiga necha foiz ehtimol berishi haqidagi savolga Klark: «Bu statistikalar u qadar foydali deb oʻylamayman», deb javob berdi, biroq SIning «mutlaqo tartibga solinmagan soha» sifatida davom etishiga yoʻl qoʻyish yomon fikr ekanligini qoʻshimcha qildi.
«Biz ulkan xavf-xatarlar bilan tavakkal qilyapmiz», dedi Klark. «Va gap shundaki, biz ushbu sohaning yoʻnalishini oʻzgartirishimiz kerak».
AQSh qonunchilari kompaniyalardan muammoli SI vositalarini oʻchirish usuliga ega boʻlishni talab qiluvchi «Kill Switch Act» (Oʻchirish tugmasi toʻgʻrisidagi qonun) deb nomlangan qonun loyihasini taqdim etishdi.
Shuningdek, u ayrim davlat idoralariga biror bir vositani oʻchirish yoki cheklash toʻgʻrisida buyruq berish vakolatini taqdim etadi.
Biroq, AQSh Prezidenti Donald Tramp SIni sekinlashtirishga qaratilgan har qanday harakat gʻoyasini rad etib, ijtimoiy tarmoqlarda «SI dunyoni egallab olishi, insoniyatni va boshqa barcha yomon narsalarni vayron qilishi bu — UYDIRMA» deb yozdi.
Boshqa bir postda u shunday dedi: «SI va maʼlumotlar markazlariga qarshi IFLOS fitna ketmoqda va bundan xursand boʻlgan yagona tomon Xitoydir. KIM SIDA GʻALABA QOZONSA, OʻSHA YUTADI!»
Buyuk Britaniyada hukumat yaqinda oʻchirish tugmasini joriy etish gʻoyasini rad etdi, rasmiy vakilning soʻzlariga koʻra, bu «ularning boshqa joyda ishlab chiqilishi yoki suiisteʼmol qilinishining oldini olmaydi».
Shu bilan birga, SI sohasidagi baʼzi odamlar uning insoniyatni vayron qilishi haqidagi xavotirlar boʻrttirilgan yoki shov-shuv yaratishga qaratilgan boʻlishi mumkinligini taʼkidlamoqdalar.
Anthropic keng qoʻllaniladigan Claude chatbotini yaratdi va bu yil SI chatbotlarini harakatga keltiruvchi texnologiya boʻlgan bir nechta tobora qobiliyatliroq SI modellarini taqdim etdi.
OpenAI bilan birgalikda Anthropic shundan beri maʼlum darajada avtonom ishlaydigan botlar boʻlgan SI agentlari kutilmagan tarzda harakat qilgan bir nechta holatlar haqida xabar berdi.
Maʼlumotlarga koʻra, Anthropic fond bozorida rekord darajadagi dastlabki ommaviy taklifga (IPO) tayyorgarlik koʻrmoqda, bu esa odamlarga kompaniya aktsiyalarini sotib olish imkonini beradi.
Yaqinda 852 milliard dollar (630 milliard funt sterling) deb baholangan OpenAI ham xuddi shunday qilishi kutilayotgan edi, biroq OpenAI rahbari Altman juma kuni SI xavfsizligi boʻyicha davom etayotgan bahs-munozaralar tufayli bu yil bunday boʻlmasligini aytdi.