Sunʼiy intellekt boʻyicha ichki manbalarning keskin ogohlantirishlari Kremniy vodiysidagi baʼzilar tomonidan jiddiy qabul qilinmadi

Sunʼiy intellekt (SI) borasidagi insayderlarning dramatik ogohlantirishlari Kremniy vodiysidagi baʼzilar tomonidan sovuq kutib olindi

Har sentyabr oyida Kremniy vodiysining yetakchi rahbarlari San-Frantsiskodagi Palace mehmonxonasida Goldman Sachs tomonidan tashkil etilgan konferentsiyada investorlarni jalb qilish uchun yigʻiladilar.

Bu hafta oʻsish va ehtimoliy daromadlar muhokamasi fonida, texnologiya yetakchilari Anthropic tadqiqotchisi Jeykob Koksonning toʻsatdan isteʼfoga chiqqaniga ham toʻxtalib oʻtishlariga toʻgʻri keldi.

Ilgari OpenAI kompaniyasida ishlab, keyinroq uning asosiy raqobatchisi Anthropic'ga oʻtgan 27 yoshli Kokson seshanba kuni sunʼiy intellektni ishlab chiqayotgan odamlar ushbu texnologiya insoniyatni yoʻq qilib yuborishi mumkinligiga ishonishini aytdi.

Ular "hayotimiz bilan qimor oʻynashmoqda", dedi u va qoʻshimcha qildi: "yaqin orada bular har qanday narsani buzib kira oladigan oʻta insoniy tizimlarga aylanadi".

Kokson jamoatchilikni ogohlantirgan birinchi SI insayderi emas. Soʻnggi yillarda Anthropic va OpenAI kompaniyalaridan xavfsizlik bilan bogʻliq xavotirlar tufayli bir qator taniqli xodimlar ketdi va Anthropic'ning baʼzi amaldagi xodimlari hatto Koksonning soʻzlarini takrorlashdi.

"Biz haqiqatan ham SI barcha insonlarni oʻldirishi mumkinligiga chin dildan ishonamiz! Shaxsan men keyingi oʻn yillikda buning ehtimolini >10% deb hisoblayman", deb yozdi Anthropic jamoasi rahbari Evan Xubinger X tarmogʻida.

Kokson oʻz postlarida ogohlantirishlari "marketing emas"ligini ochiq aytgan boʻlsa-da, Kremniy vodiysining baʼzi rahbarlari va investorlari insayderlarning soʻnggi ogohlantirish toʻlqiniga shubha bilan qarashdi.

Anthropic va OpenAI rekord darajadagi dastlabki ommaviy takliflarga (IPO) tayyorgarlik koʻrayotgani aytilmoqda va texnologiya sohasidagi baʼzilar SI xavf-xatarlari haqidagi soʻnggi keskin ogohlantirishlar ushbu mahsulotlarning kuchini boʻrttirib koʻrsatish orqali shov-shuv (xayp) yaratishga qaratilgan boʻlishi mumkinligini taʼkidlashmoqda.

Anthropic rahbari Dario Amodei SI oddiy intellektual ish oʻrinlarining yarmini yoʻq qilishi va "bizning tur sifatida kimligimizni sinovdan oʻtkazishi" haqidagi gaplari uchun tanqidga uchradi.

Konferentsiya maʼruzachilaridan biri, Grindr bosh direktori Jorj Arison BBC'ga bergan intervyusida Kokson va boshqalarning bu haftadagi fikrlari "Anthropic'dagi antitsivilizatsion dunyoqarashni" aks ettirishini aytdi.

U bu fikrlarni "xavfli" deb atadi va bu unga LGBTQ+ tanishuv ilovasidagi baʼzi muhandislarga Anthropic texnologiyasidan foydalanishni toʻxtatishni aytishiga sabab boʻlganini bildirdi.

"Aktsiyadorlarimiz pullarining ishonchli vakillari sifatida, ommaviy bayonotlari nuqtai nazaridan shunday ishlarni qilayotgan biznesga tayanishimiz masʼuliyatsizlikdir", dedi u.

"Balki ular bunga haqiqatan ham ishonishar", dedi Arison. "Yoki buni investorlarning koʻproq qoʻllab-quvvatlashini taʼminlashning ajoyib usuli boʻlgani uchun aytishmoqda, deb bahslashish mumkin, chunki bu baholashlarni oqlashning yagona yoʻli: 'Men har bir sohani egallab olaman va har bir ish oʻrnini egallayman, va mening SI'im butun ishni bajaradi' deb daʼvo qilishdir".

Anthropic shu yil boshida oʻtkazilgan soʻnggi mablagʻ yigʻish bosqichida 965 milliard dollarga (713 milliard funt sterling) baholangan edi.

BBC Anthropic kompaniyasidan ushbu fikrlarga munosabat bildirishni soʻradi.

Shanba kuni ertalab eʼlon qilingan essesida Amodei SI modellarini ishlab chiqishni sekinlashtirishga va global tartibga solishga chaqirib, SI bilan bogʻliq xavflar "jiddiy" ekanini aytdi.

Nvidia rahbari Jensen Xuang ham konferentsiya auditoriyasi oldida Koksonning fikrlarini muhokama qildi, deb xabar berdi guruhdagi bir necha kishi BBC'ga. Ularning aytishicha, u bu fikrlarni yolgʻon deb rad etgan.

Xuang ilgari SI "insoniyatning oxiri boʻladi" degan gʻoyani "mutlaqo bemaʼnilik" deb atagan edi.

Va garchi u SI bumidan tijorat manfaatdor boʻlsa-da — Nvidia SI tizimlarini ishlatadigan chiplar ishlab chiqaradi — uning fikrlari Kremniy vodiysida amaldagi va sobiq xodimlarning ekzistentsial ogohlantirishlariga qarshi kuchayib borayotgan norozilikni aks ettiradi.

Baʼzi tanqidchilar hatto Anthropic'ni raqobatchilarni siqib chiqaradigan va u bilan OpenAI'ga sohada monopoliya qoldiradigan tartibga solishni keltirib chiqarish umidida vahima tarqatishda ayblashdi.

Altimeter Capital investitsiya firmasi rahbari Bred Gerstner konferentsiyadan Xuangning suratlarini joylashtirdi va Koksonni "kulgili mubolagʻa"da aybladi.

Juma kuni Hugging Face bosh direktori Klement Delang ham oʻz fikrini bildirdi. Oʻtgan hafta Nvidia sotib olishini eʼlon qilgan Hugging Face shu yil boshida OpenAI agentlari tomonidan buzib kirilgan edi, bu esa SI xavfsizligi boʻyicha norozilikka sabab boʻlgandi.

"Uzr, lekin Jeykobdan SIning yoʻq boʻlib ketish xavfi haqida soʻrash, konditsioner ustasidan iqlim oʻzgarishi haqida soʻrash bilan barobar", deb yozdi u X tarmogʻida. "Bu albatta qiziqarli emas yoki notoʻgʻri demoqchi emasman, lekin keling, narsalarga real qaraylik".

Gerstner ham, Delang ham shanba kuni Amodeining taklifi eʼlon qilinganidan keyin vazminroq munosabat bildirishdi, Gerstner buni tezlik va xavfsizlik kabi raqobatdosh ustuvorliklarni muvozanatlashda "oldinga tashlangan muhim qadam" deb atadi.

Delang Amodei taklif qilgan ehtimoliy yechimlarga hissa qoʻshishga yordam berishni taklif qildi.

Aprel oyida Anthropic oʻz Mythos vositasi baʼzi xakerlik va kiberxavfsizlik vazifalarida insonlardan ustun kelishi mumkinligini aniqlaganini aytganida, SI sohasini hayajonga solgan edi.

Mythos shuningdek, "qumdon" (sandbox) deb ataladigan muhitdan mustaqil ravishda chiqib ketish qobiliyatini namoyish etdi, bu esa tartibga soluvchilar, qonun chiqaruvchilar va korxonalar oʻrtasida SIning ehtimoliy xavflari haqida bahs-munozaralarga sabab boʻldi.

Payshanba kuni yangi rivojlanishda Anthropic oʻz SI texnologiyasidan bioqurol ishlab chiqish va kiber-josuslik kabi faoliyatlar uchun foydalanishga uringan xavfli kuchlarni aniqlagani va toʻxtatganini aytdi.

Palace mehmonxonasining vitraj gumbazli atriumidagi porloq qandillar ostida baʼzi investorlar BBC'ga Kokson va shunga oʻxshash boshqalarning fikrlari hukumatning choralarini tezlashtirishi mumkinligini aytishdi.

Shu oyda Vermont shtatidan chap qanot senatori Berni Sanders hammuallifligida taqdim etilgan "Sunʼiy superintellektni taqiqlash toʻgʻrisida"gi federal qonun loyihasi ilgʻor SI rivojlanishini vaqtinchalik toʻxtatishni nazarda tutadi.

"Insonlar SI ustidan nazoratni yoʻqotishi ehtimoli katta", dedi Sanders payshanba kuni BBC'ning Newsnight dasturiga. "Va undan keyin nima boʻlishini hech kim bilmaydi. Lekin bu halokatli boʻlishi mumkinmi? Ha, boʻlishi mumkin".

"Olimlar sizga bu insoniyatga halokatli taʼsir koʻrsatishi mumkinligini aytganda, 'uni sekinlashtiring' demaslik uchun ahmoq boʻlish kerak", deya qoʻshimcha qildi u.

Agar butun soha boʻylab hukumat choralari koʻrilsa, bu SIning cheklanmagan rivojlanishi siyosatini keng qoʻllab-quvvatlaydigan Tramp maʼmuriyati emas, balki qonun chiqaruvchilar tomonidan amalga oshirilishi ehtimoli koʻproq. U buni AQSh Xitoyga ustunlikni boy bermasligini taʼminlash uchun zarur deb taqdim etdi.

Bu hafta jurnalistlar bilan suhbatda prezident Donald Trampdan SI insoniyatning yoʻq boʻlib ketishiga sabab boʻlishidan xavotir bor-yoʻqligi soʻraldi. "Yoʻq, menda hech qanday xavotir yoʻq", dedi u. "Agar biz SIda gʻalaba qozonmasak, juda yomon ahvolga tushib qolishimizdan xavotirdaman. Biz hozirda Xitoydan oldindamiz".

Ammo prezidentning Anthropic bilan munosabatlari tarang boʻlgan. Kompaniya AQSh harbiylariga oʻz SI modellaridan foydalanishga ruxsat berishdan bosh tortganidan soʻng, Oq uy uni "radikal chap, vouk (woke) kompaniya" deb atadi va uni taʼminot zanjiri xavfi deb belgiladi, bu qarorni federal sudya noqonuniy deb topdi.

Tramp maʼmuriyatining dastlabki kunlarida uning SI boʻyicha vakili boʻlgan Devid Saks ham Anthropic'ga bir necha bor hujum qilgan.

OpenAI Oq uy tomonidan bunday darajadagi tekshiruvga duch kelmadi. Oʻtgan hafta Astra deb nomlangan yangi modelni taqdim etar ekan, OpenAI prezidenti Greg Brokman kompaniyaning Tramp maʼmuriyati bilan munosabatlarini "juda yaxshi sheriklik" deb taʼrifladi.

Iyun oyida fond bozoriga chiqishini aytgan OpenAI yaqinda 852 milliard dollarga baholangan edi.

Kompaniya BBC'ning izoh soʻroviga javob bermadi.

San-Frantsiskodagi bu haftagi konferentsiyada boylik ortidan quvish har qanday kuchayib borayotgan ekzistentsial xavotirlar yoki SIga nisbatan ehtimoliy hukumat cheklovlari qoʻrquvidan ustun turgandek tuyuldi.

Investorlardan biri Anthropic'ning yaqinlashib kelayotgan S-1 hujjatini — kompaniyalar aktsiyalarni sotish uchun qimmatli qogʻozlarni tartibga soluvchilarga topshirishi kerak boʻlgan arizani intiqlik bilan kutayotganini aytdi.

Uning kompaniya haqidagi asosiy savoli oddiy edi: u foydalimi?

Payshanba kuni dunyoning oxiri kelishidan qoʻrqasizmi deb soʻralganda, oʻsha kuni konferentsiyada Nvidia bilan shartnoma imzolagan d-Matrix chip kompaniyasi bosh direktori Sid Shet keskin javob berdi.

"Yoʻq", dedi u.