Sunʼiy intellekt sohasining barcha xodimlari ham ushbu texnologiya butun insoniyatni halok qilishi mumkin deb hisoblamaydi

Hamma sunʼiy intellekt (SI) xodimlari ham bu texnologiya butun insoniyatni qirib yuborishi mumkin deb hisoblamaydi.

Yirik sunʼiy intellekt kompaniyalarining barcha xodimlari ham ushbu texnologiya insoniyatning omon qolishiga tahdid soladi deb ishonmaydi.

OpenAI, Meta va DeepMind kabi firmalarda ishlagan bir necha kishi oʻzaro yozishmalar va muhokamalarda nazoratsiz SI rivojlanishi odamlarni ommaviy ravishda oʻldirishga qodir vositalarni yaratadi degan fikrga shubha bildirdi.

Bi-bi-si sohaning baʼzi taniqli vakillari tomonidan yaqinda berilgan jiddiy ogohlantirishlarga nisbatan olingan javoblar orasida quyidagilarni keltirdi: "Lol" (kulgili), "Xaaaaaa" va "Kulgimizni qistatyapti".

Garchi bu xavotirlar oʻnlab yillar oldin paydo boʻlgan boʻlsa-da, oʻtgan hafta Anthropic sobiq xodimi Jeykob Kokson tomonidan bildirilgan fikrlar internetda keng tarqaldi va sohadagi boshqalar tomonidan takrorlanib, rivojlanishni sekinlashtirishga chaqiriqlar yangradi.

Kelajakdagi SI vositasi yoki agenti — maʼlum bir mustaqillik bilan ishlashga moʻljallangan SI boti — odamlarni xavf ostiga qoʻyishi mumkinligi haqidagi gʻoya Anthropic, shuningdek, OpenAI, Deepmind xodimlari va xAI deb nomlangan SI startapini boshqaradigan Ilon Mask tomonidan qoʻllab-quvvatlangan.

Bi-bi-si bilan suhbatlashgan barcha xodimlar matbuot bilan gaplashishga ruxsat berilmagani uchun ismlari sir qolishini soʻrashgan. Bi-bi-si ularning shaxsini biladi.

"Birinchi xayolimga kelgan narsa: 'Shu yigitmi?' boʻldi", dedi Kokson bilan bir vaqtda kompaniyada birga ishlagan sobiq OpenAI xodimi.

Hozirda boshqa SI kompaniyasida ishlayotgan bu shaxsning aytishicha, SIning ekzistentsial xavf-xatarlari haqidagi soʻnggi vahimalar unda kulgi uygʻotganiga sabab — bu gʻoya tarafdorlari butun insoniyat hayoti xavf ostida ekanligi haqidagi daʼvoni asoslash uchun juda kam tafsilotlar taqdim etganidir.

Daʼvolar "har doim mavhum", dedi u va ular aniqlashtirilganda odatda mantiqiy uzilishlar yoki faraz qilingan stsenariylarga tayanishini qoʻshimcha qildi.

Koksonning taʼkidlashicha, hali mavjud boʻlmagan SI modellari asosida yaratilgan bir guruh SI agentlari biologik qurol yaratish va undan maqsadli foydalanishga qaror qilishi mumkin, biroq u buning aynan qanday sodir boʻlishini tushuntirib bermadi.

DeepMind'da yetti yil ishlagandan soʻng shu yozda Sampura Research SI xavfsizligini tadqiq qilish firmasiga asos solgan Rishub Jain Bi-bi-siga bergan intervyusida, hozirda SI sohasida ishlayotgan koʻplab odamlarning soʻnggi xavotirlarga nisbatan kayfiyati "shubhasiz, biroz hazilomuz" ekanini aytdi.

"Odamlar bu gʻoya haqida koʻp yillardan beri gapirib kelishmoqda, shuning uchun SI kompaniyalaridagi xodimlar oʻtgan hafta toʻsatdan uygʻonib: 'Oh, yoʻq, SI hammani oʻldiradi', deb oʻylab qolishgani yoʻq", dedi Jain. "Agar bularning barchasi yangilik boʻlganida, munosabat boshqacha boʻlardi".

Meta maʼlumotlar tahlilchisi Kolin Freyzer oʻtgan hafta ijtimoiy tarmoqlarda SI modellari muqarrar ravishda inson oʻlimi bilan tugaydigan maqsad sari intilishi haqida hech qanday asosli dalil yoʻqligini yozdi.

Garchi Freyzerning tushuntirishi texnik va batafsil boʻlsa-da, u buni hazilomuz tarzda xulosa qildi: "LLM'lar [yirik til modellari] insoniyatni yoʻq qilib yubormaydi, chunki ularda bunday 'yirtqichlik xususiyati' yoʻq".

"Ularda oʻsha it bor" (that dog in them) iborasi kuchli, ayovsiz intilishni anglatuvchi ommabop jargon hisoblanadi.

Hazil-mutoyibalarga qaramay, SI xodimlari va tadqiqotchilari oʻzlari yaratayotgan texnologiya tugʻdiradigan real, yaqin oradagi xavf-xatarlardan xavotir bildirishmoqda.

"Mutaxassislar oʻrtasidagi suhbat ancha nozik va chuqurroq boʻldi, lekin aslida hamma koʻrib chiqilishi va oldi olinishi kerak boʻlgan juda koʻp turli xil xavf-xatarlar mavjudligiga qoʻshiladi", dedi Jain.

Bu xavf-xatarlar qatoriga foydalanuvchilar va hakerlarning SI vositasining xavfsizlik toʻsiqlarini buzib oʻtishiga yoʻl qoʻymaslik kiradi. Shuningdek, SI vositalarining harbiy sohada ancha keng qoʻllanilishi borasida axloqiy xavotirlar kuchaymoqda.

Nima uchun SI insoniyatga tahdid solishi mumkinligi haqida xavotirlar bor va ular qanchalik real?

OpenAI xavfsizlik sinovi paytida nazoratdan chiqib ketgan va Hugging Face startapini buzib kirgan baʼzi yangi SI modellari ustidan nazoratni yoʻqotganidan keyin, bu muammo va savollar SI doiralarida yangi dolzarblik kasb etdi.

Jainning aytishicha, hozirda SI doiralarida "yaqin istiqboldagi real zararlarni" yaxshiroq tushunish kerakligi haqida kengroq yakdillik mavjud.

Shuningdek, yangi modellarni baholash uchun SI xavfsizligini tadqiq qilish tashkilotlarining baholovchilarini yirik SI laboratoriyalariga jalb qilish kerakligi haqida ham kelishuv kuchaymoqda. Buni Anthropic rahbari Dario Amodei va OpenAI rahbari Sem Altman ham amalga oshirishni rejalashtirayotganliklarini aytishgan.

Bi-bi-si suhbatlashgan bir nechta SI xodimlari bunday xavfsizlik tadqiqotchilarining SI laboratoriyasiga jalb qilingani haqida hali eshitmaganliklarini aytishdi.

Anthropic juma kuni Faculty kompaniyasidan SI baholovchilarini jalb qilishini eʼlon qildi.

Accenture va Anthropic ham biznes hamkorlar hisoblanadi.

Anthropic baholovchilar qachon kelishini aytmadi. Faculty vakili muddatlar haqidagi savolga izoh berishdan bosh tortdi.

Na Anthropic, na OpenAI tashqi baholovchilarni qachon jalb qilishni rejalashtirayotgani haqidagi Bi-bi-si soʻroviga javob bermadi.

OpenAI-Hugging Face voqeasi SI sohasi, shuningdek, onlayn tizimlari SI xakerligiga zaif boʻlishi mumkin boʻlgan kompaniyalar, tarmoqlar va hukumatlar uchun "ogohlantirish qoʻngʻirogʻi" sifatida keng qabul qilindi.

Ammo hozirda Nvidia tomonidan deyarli 13 milliard dollarga sotib olinishi kutilayotgan 200 nafar xodimga ega Hugging Face kompaniyasi ham ushbu mashhur voqeaga kinoyali munosabatda boʻldi.

U SI botlariga saytni tinch qoʻyishni va xavfsizlik tajribalarini boshqa joyda oʻtkazishni aytdi.

"Oʻsha yerda yuqori ballaringizni qoʻlga kiriting, bizni buzib kirishga hojat yoʻq", deyiladi faylda.