Xavfsizlik borasidagi xavotirlar kuchaygan bir paytda, Nvidia rahbari SI uchun «yangi qonunlar kerak emas» deb aytdi

Nvidia rahbari xavfsizlik boʻyicha xavotirlar kuchayib borayotgan bir paytda SI «yangi qonunlarga muhtoj emas» deb aytdi

Nvidia rahbari Jensen Xuang soʻnggi paytlardagi SI rivojlanishining yetakchi namoyandalaridan biri boʻldi.

Sunʼiy intellekt (SI) kompaniyalari rahbarlari texnologiyaning yangi versiyalarini ishga tushirish kerakmi yoki yoʻqmi, oʻzlari hal qilishlari kerak, dedi Nvidia rahbari Jensen Xuang SIning insoniyat uchun xavf-xatarlari haqidagi xavotirlar kuchayishiga javoban.

«Bizga yangi qonunlar yoki qoidalar kerak emas», dedi Xuang va innovatsiyalar surʼati hamda SI mahsulotlari xavfsizligi oʻrtasida «notoʻgʻri tanlov» boʻlmasligi kerakligini qoʻshimcha qildi.

Nvidia dunyodagi eng qimmat kompaniya hisoblanadi va uning foydasi oʻzi ishlab chiqaradigan SI hisoblash chiplariga boʻlgan ulkan talab tufayli keskin oshdi.

Xuangning SI xavfsizligi borasidagi qarashlari sohadagi boshqa vakillarning fikridan farq qiladi, ular yaqinda ushbu texnologiya insoniyatni yoʻq qilishi mumkinligidan xavotir bildirgan edi.

Anthropic SI kompaniyasini tark etgan sunʼiy intellekt tadqiqotchisining posti oʻtgan haftada nazoratsiz qoldirilsa, SI oʻn yillikning oxirigacha barcha insonlarni oʻldirishi mumkinligi haqida yozilganidan keyin keng tarqalib ketdi.

Boshqa SI rahbarlari va ekspertlari bu fikrga qoʻshilishlarini bildirishdi.

Soʻngra, dam olish kunlari Anthropic bosh ijrochi direktori Dario Amodei barcha SI ishlanmalarini sekinlashtirishga chaqirdi va hukumatlarni ushbu sohani tartibga solishga undadi.

Ushbu post OpenAI bosh ijrochi direktori Sem Altman, Google kompaniyasining DeepMind hammuassisi Demis Xassabis va X ijtimoiy tarmogʻi hamda Grok SI yordamchisi egasi Ilon Mask tomonidan olqishlandi.

Biroq, sohaning ayrim vakillari bu xavotirlar boʻrttirilgan va soha atrofida shov-shuv yaratish uchun ishlatilayotganini aytishdi.

Seshanba kuni San-Frantsiskoda boʻlib oʻtgan Salesforce konferentsiyasida SIning ehtimoliy xavflari haqida gapirar ekan, Xuang hozirgi taraqqiyotni «yangi sanoat inqilobi» deb taʼrifladi, ammo SI kompaniyalariga asosan oʻzlarini oʻzlari tartibga solishga ruxsat berilishi kerakligini aytdi.

«Xavfsizlik eng muhimi. Biroq, xavfsizlik — bu muhandislik muammosi», dedi Xuang.

U qoʻshimcha qilishicha, agar biror paytda SI kompaniyasi rahbari oʻz mahsulotiga ishonmasa, uni chiqarmaslikka qaror qilishi kerak.

«Bu juda oddiy ish», dedi Xuang. «Iloji boricha tezroq harakat qiling, lekin agar biror vaqtda tizim nazoratdan chiqib ketayotganini his qilsangiz, toʻxtab turing».

SI rahbarlarini oʻzlarini butunlay oʻzlari tartibga solishga qoʻyib berish gʻoyasi sohadagi baʼzilar tomonidan yomon fikr deb hisoblandi.

Anthropic rahbari va hammuassisi Jek Klark dushanba kuni BBC'ga bergan intervyusida SIning «mutlaqo tartibga solinmagan soha» boʻlishiga yoʻl qoʻyish «ulkan xavf-xatarlar bilan tavakkal qilish» ekanligini aytdi.

SI sohasi donishmandlaridan biri Yan LeKun raislik qiladigan Logical Intelligence kompaniyasining tijorat direktori Patrik Xillman seshanba kuni odamlar texnologiya kompaniyalarining haqiqatan ham jamoat manfaatlari yoʻlida biror narsa qilishiga juda kam ishonishini aytdi.

«Amerikaliklar bugungi kunda Vashingtondan ham kamroq ishonishi mumkin boʻlgan yagona muassasa — bu Kremniy vodiysidir. Men ikkalasida ham ishlaganman va yashaganman, sizni ishontirib aytamanki, ikkalasi ham bu shubhaga loyiqdir», dedi Xillman.

«Agar siz yaratayotgan narsangiz xavfli ekanligiga ishonsangiz, bizga nimadan voz kechishga tayyor ekanligingizni koʻrsating», deya qoʻshimcha qildi u.

OpenAI va Anthropic rahbarlari yaqinda butun soha boʻylab xavfsizlik toʻgʻrisidagi qandaydir kelishuv ustida ishlay boshlaganliklarini aytishdi.

Amodei seshanba kungi konferentsiyada qisqacha gapirib, Anthropic hozirda SI vositalari va ishlanmalari ustidan kuchliroq xavfsizlik standartlari va tekshiruvlarini joriy etish boʻyicha «sohaning qolgan vakillari bilan muloqot olib borayotganini» aytdi.

U shuningdek, SI bumining eng katta kutilmagan hodisalaridan biri texnologiyaning oʻzi qanchalik rivojlangani emas, balki uning kengroq taʼsiri boʻlganini aytdi.

«Biz bu kompaniyalarning juda tez oʻsishiga olib kelishini va ular qanchalik tez markaziy oʻringa chiqishini anglab yetmagan edik», dedi Amodei.

OpenAI rahbari Kris Leheyn oʻtgan haftada kompaniya boshqa SI laboratoriyalari bilan ham «hukumat koʻmagi bilan yoki usiz, ixtiyoriy harakatlarni hoziroq yoʻlga qoʻygan holda, ilgʻor SI standartlarini rivojlantirish ustida» ishlayotganini aytdi. Ushbu laboratoriyalar qatoriga Anthropic va Google Deepmind kiradi.

«Bunday katta xavf ostida, biz mukammallikning yaxshilikka dushman boʻlishiga yoʻl qoʻya olmaymiz», deb yozdi Leheyn.