Anthropic xavfsizlik boʻyicha tadqiqotchisining taʼkidlashicha, sunʼiy intellekt «butun insoniyatni yoʻq qilib yuborishi» ehtimoli 10 foizdan yuqori
Bu sunʼiy intellekt tomonidan yuzaga keladigan xavfsizlik tahdidi haqidagi tobora kuchayib borayotgan ogohlantirishlar seriyasining eng soʻnggisidir.
Anthropic xavfsizlik tadqiqotchisining aytishicha, SI «barcha insoniyatni yoʻq qilishi» ehtimoli 10% dan yuqori
Anthropic kompaniyasi chat-bot va kodlashga yordam beruvchi vosita sifatida foydalaniladigan Claude SI vositasini ishlab chiqaradi
Anthropic kompaniyasining katta xavfsizlik tadqiqotchisi SI shu qadar tez rivojlanayotganidan ogohlantirdiki, yaqin oʻn yil ichida u «barcha insoniyatni yoʻq qilishi» ehtimoli 10% dan yuqori.
Hozirda mavjud boʻlgan modellardan kelib chiqadigan xavf «past», ammo u texnologiya vaqt oʻtishi bilan shu darajaga yetish uchun oʻzini oʻzi takomillashtirish qobiliyatiga ega boʻlishi mumkinligidan «xavotirda».
Anthropic oʻzining soʻnggi modelini SIni sinovdan oʻtkazuvchi SI Xavfsizligi Institutidan (AI Safety Institute) yashirdi.
Oʻzining X tarmogʻidagi 9,6 million marta koʻrilgan soʻnggi postida Xubinger «biz haqiqatan ham chin dildan ishonamizki», SI insoniyat uchun tur sifatida yoʻq boʻlib ketish xavfini tugʻdiradi, deb aytdi.
«Men Anthropic qoʻlidan kelganicha harakat qilayotganiga ishonaman, ammo bizda hali oʻta aqlli tizimlarni (superintelligence) muvofiqlashtirish (alignment) muammosini hal qilish rejasi yoʻq va biz bu yoʻnalishda aniq ilgarilamayapmiz», dedi u.
SI sohasidagi yetakchi shaxslar yillar davomida ushbu texnologiya tugʻdiradigan xavfsizlik tahdidi haqida bong urib kelishmoqda, OpenAI, Google Deepmind va Anthropic rahbarlari 2023 yilda ham shu fikrni bildirishgan edi.
Biroq, soʻnggi haftalarda kompaniyalar SIni nazorat qilishda qiynalayotgani haqidagi dalillar paydo boʻlishi bilan bu ogohlantirishlar yanada jiddiy tus oldi.
Yoz davomida SI agentlari — avtonom ravishda ishlashiga ruxsat berilgan SI tizimlari — kiberhujumlar uyushtirgan bir qator hodisalar yuz berdi.
Sentyabr oyida esa OpenAI bosh ilmiy xodimi Yakub Pachoki SI rivojlanishida «oʻta ehtiyotkorlikka» chaqirib, «insonlar kelajakni nazorat qilishda davom etishini» taʼminlash uchun koʻproq aralashuv talab etilishi mumkinligidan ogohlantirdi.
Soʻnggi oylarda ushbu sohadagi yirik shaxslar, jumladan Anthropic rahbarlari Dario Amodei va Jared Kaplan SI rivojlanishini sekinlashtirishga chaqirishmoqda.
Ular AQSh hukumatini «ilgʻor SI rivojlanishi surʼatini ongli ravishda nazorat qilish uchun zarur boʻlgan texnik va boshqaruv vositalarini ishlab chiqish boʻyicha xalqaro saʼy-harakatlarni qoʻllab-quvvatlashga» chaqirdilar.