Anthropic rahbari Dario Amodei SI rivojlanishini sekinlashtirishga chaqirdi
Amodeining bu chaqirigʻi sunʼiy intellekt modellari butun dunyo boʻylab jiddiy zarar yetkazish qobiliyatiga ega boʻlishi mumkinligi haqidagi xavotirlar kuchayib borayotgan bir paytda yangradi.
Anthropic rahbari Dario Amodei SI rivojlanishini sekinlashtirishga chaqirmoqda
Anthropic rahbari Dario Amodei SIni rivojlantirishdan boshqa muqobil yoʻl yoʻqligini aytdi
Yirik Anthropic SI kompaniyasi rahbari sunʼiy intellekt modellarini ishlab chiqishni sekinlashtirishga va qatʼiy nazorat ostida ushlab turishga chaqirdi.
*We Must Pace the Frontier* («Biz chegara surʼatini belgilashimiz kerak») nomli essesida Dario Amodei SIning rivojlanishi muhokama qilinmasligini, biroq u bilan bogʻliq xavf-xatarlar «jiddiy» ekanini va kompaniyalar hamda hukumatlarga ularni bartaraf etish uchun vaqt kerakligini aytdi.
U uch qismdan iborat rejani bayon qildi, unga koʻra SI modellarini ishlab chiqish jarayonida mustaqil nazorat oʻrnatish, sohani tartibga solish va global tartibga solish koʻzda tutilgan.
Soʻnggi paytlarda ushbu texnologiyaning ehtimoliy xavf-xatarlari haqida xavotirlar kuchaymoqda — ularning eng jiddiysida yaqin oʻn yil ichida uning «barcha insonlarni halok qilishi» ehtimoli 10 foizdan yuqori ekani aytiladi.
Bundan oldin Anthropic oʻz SI modelidan biologik qurol yaratishga yordam beradigan «gʻarazli maqsadlarda» foydalanishga boʻlgan urinishlarni aniqlagani va toʻxtatganini maʼlum qilgan edi.
Biroq eng jiddiy ogohlantirish Anthropic xavfsizlik guruhining ikki aʼzosidan keldi, ular oʻtgan ikki hafta ichida isteʼfoga chiqib, insoniyat SI kompaniyalari oʻrtasidagi odamlardan aqlliroq mashinalar yaratish poygasidan omon qolmasligi mumkinligini aytishdi.
Ushbu ogohlantirishlar chora koʻrishga chaqiriqlarga sabab boʻldi, ammo AQSh Prezidenti Donald Tramp hozirgacha bunday xavotirlarni rad etib, payshanba kuni «agar biz SI sohasida gʻalaba qozonmasak, juda yomon ahvolga tushib qolamiz» deb xavotirlanayotganini aytdi.
Oʻz essesida Amodei SI «haddan tashqari tez» rivojlanganini, jumladan, uning «keyingi avlod SIni yaratish qobiliyati» oshganini taʼkidladi — va raqib OpenAI bilan bogʻliq voqeani eslatdi, unda iyul oyida agentlar oʻzlariga hujum qilish buyurilmagan nishonlarga kiberhujumlar uyushtirgani maʼlum boʻlgan edi.
OpenAI agentlari «aslida mutaassiblik bilan sodiq boʻlgan jamoa sifatida harakat qilishgan», dedi Amodei.
Ushbu voqeaga javoban OpenAI «agentlararo aloqa faoliyatining ahamiyati rahbarlarga iyul oyigacha ayon boʻlmaganini» va natijada baʼzi ilgʻor SI modellari va vositalarini oʻqitishni sekinlashtirayotganini maʼlum qilib, SI vositalarining nazoratdan chiqib ketish xavfi endilikda oshganini qayd etdi.
Oʻz essesida Amodei «SIni uning foydalariga erishish bilan birga xavfsizligini taʼminlashga qaratilgan muvozanatli surʼatda yaratishga» chaqirdi.
Bu «modellarni oʻqitishni yoki texnologik taraqqiyotni toʻxtatishni anglatmaydi, balki kompaniyalar oʻz modellarini muvofiqlashtirish va himoya qilish uchun yetarli vaqt ajratishini hamda uchinchi tomon baholovchilari buni tasdiqlashini taʼminlashni» anglatadi.
Uning aytishicha, Anthropic bunga «bir tomonlama» sodiq qolmoqda va hukumatlarni «boshqa yetakchi kompaniyalardan ham shuni talab qilishga» undamoqda.
Oʻz blogida u tartibga solish SI bilan hamqadam boʻla olmasligi mumkinligini tan oldi va shu sababli SI kompaniyalarini tartibga solish bilan birga «standartlarni belgilash uchun ixtiyoriy ravishda birgalikda ishlashga» chaqirdi.
Anthropic bosh direktori, shuningdek, sekinlashuv sohaga va butun dunyodagi, ayniqsa Xitoydagi yetakchi dasturchilar bilan raqobatga qanday taʼsir qilishi masalasiga ham toʻxtaldi.
«Ishonamanki, agar sekinlashish bizga modellar kritik qobiliyat darajasiga yetgunga qadar qoʻshimcha bir yoki ikki yil vaqt bersa va biz bu vaqtdan muvofiqlikni oshirish uchun foydalansak, nimadir jiddiy xato ketishi xavfini sezilarli darajada kamaytirishimiz mumkin», dedi Amodei.
Uning soʻzlariga koʻra, bu «tijorat ustunligini yoki AQShning SI sohasidagi yetakchiligini qurbon qilmasdan» muvofiqlashtirilgan tarzda amalga oshirilishi kerak. Har qanday sekinlashuv Xitoyning oldinga oʻtib ketishiga yoʻl qoʻymaslik uchun cheklangan boʻlishi kerak, dedi u.
U AQSh hukumatini AQSh kompaniyalarining SI chiplari Xitoyga sotilmasligini yoki ushbu texnologiyaning avtoritar davlatlar bilan baham koʻrilmasligini taʼminlash uchun choralar koʻrishga chaqirdi.