OpenAI va Anthropic rahbarlari BMTni SI boʻyicha global shartlarni ishlab chiqishga undamoqda

OpenAI va Anthropic rahbarlari BMTni sunʼiy intellekt boʻyicha global qoidalarni belgilashga chaqirmoqda

OpenAI, Anthropic va Hugging Face rahbarlari BMTga sunʼiy intellekt (SI) rivojlanishining hozirgi surʼati va uning jamiyatga soladigan xavf-xatarlari global miqyosda xalqaro muvofiqlashtirishni talab qilishini aytishdi.

Altman xavflarni baholash boʻyicha umumiy standartlar yaratishga chaqirdi, OpenAI kompaniyasining asosiy raqobatchisi boʻlgan Anthropic rahbari Dario Amodei va Hugging Face rahbari Klement Delang ham shunday fikr bildirdi.

Shu oy boshida Amodei esse eʼlon qildi, unda texnologiyaning insoniyatga tahdidi haqidagi xavotirlar tufayli SI rivojlanishini sekinlashtirishga chaqirilgan va bu chaqiriq Altman hamda boshqalar tomonidan olqishlangan edi.

Biroq, xuddi shu BMT konferentsiyasida AQSh Prezidenti Donald Trampning texnologiyalar boʻyicha asosiy maslahatchisi SIni tartibga solishning har qanday yangi shakli gʻoyasini rad etdi.

Uber kompaniyasining sobiq rahbari Maykl Kratsios SI rivojlanishi tezlashayotganini va bu texnologiya xavf-xatarlar tugʻdirishini tan oldi, ammo BMTga bu "rivojlanishni toʻxtatib turish yoki uni yangi global boshqaruv tuzilmalari bilan cheklash" uchun yetarli sabab emasligini aytdi.

"Ushbu va boshqa forumlardagi xalqaro muloqotning global boshqaruv tomon ogʻib ketishiga yoʻl qoʻyib boʻlmaydi", deya qoʻshimcha qildi Kratsios.

OpenAI rahbari Sem Altman va SI sohasidagi boshqa bosh direktorlar chorshanba kuni BMTdagi chiqishlarida bunga qarama-qarshi pozitsiyani egallashdi.

"Agar SI demokratik boʻlishi kerak boʻlsa, eng muhim qarorlar faqat San-Frantsiskodagi laboratoriyalar tomonidan qabul qilinishi mumkin emas", dedi Altman.

U BMTga mamlakatlar "kuchli yangi texnologiya qarshisida umumiy manfaatlar yoʻlida" birgalikda ishlashni boshlashini istashini aytdi.

U SI vositasining imkoniyatlarini qanday oʻlchash, tegishli xavflarni baholash, SI xavfsizlik choralarini qoʻllash va bunday vositalar ustidan inson nazorati qay darajada saqlanib qolishini aniqlash boʻyicha "milliy va xalqaro" SI standartlarini yaratishga chaqirdi.

Shuningdek, u "hodisalar haqida tezkor xabar berish, tasniflash va hisobot berish protokollarini joriy etishga chaqirdi, toki dunyo muvaffaqiyatsizliklar falokatga aylanishidan oldin ulardan saboq olishi mumkin boʻlsin."

"Bizga umumiy standartlar kerak, toki mamlakatlar dalillarni solishtirishi, talablarga rioya etilishini tekshirishi hamda nima sodir boʻlayotgani haqida yagona til va tushunchaga ega boʻlishi lozim", deya qoʻshimcha qildi Altman.

Anthropic rahbari Amodei va Hugging Face rahbari Delang ham oʻz nutqlarida shunga oʻxshash fikrlarni bildirishdi.

Amodeining aytishicha, SI "agar notoʻgʻri boshqarilsa... umuman insoniyat uchun xavf tugʻdirishi mumkin."

U SI vositalarini yanada rivojlantirish "xavfsizlikning yanada qatʼiy standartlarini" talab qilishini qoʻshimcha qildi.

"Biz chiqarayotgan har bir keyingi SI texnologiyasi haqiqatan ham xavfsiz ekanligiga ishonch hosil qilish uchun zarur boʻlgan darajada sekinlashamiz", deya qoʻshimcha qildi Amodei.

"Ammo biz nima qilishimizdan qatʼi nazar, bu xavflarni boshqarish pirovardida istalgan bitta kompaniyadan koʻra kattaroq masaladir va u butun tarmoq hamda global miqyosga ega."

Hugging Face rahbari Delang shunday dedi: "Global hamjamiyatga monitoring va hodisalarni oshkor qilish boʻyicha kuchliroq standartlar kerak."

Uchchala rahbar ham AQShda faoliyat yuritadi va SI texnologiyasini rivojlantirish bilan bevosita shugʻullanadi.

SI dasturchilari uchun platforma boʻlgan Hugging Face yaqinda OpenAI tomonidan yaratilgan va maʼlum darajada avtonom ishlaydigan SI agentlari yoki SI botlari tomonidan hakerlik hujumiga uchraganini tan olganidan keyin yanada koʻproq eʼtibor markaziga tushdi.

Shundan soʻng Hugging Face kompaniyasi SI chiplari ishlab chiqaruvchi Nvidia tomonidan sotib olindi.

Hugging Face tizimining buzib kirilishi soha ichida SI texnologiyasining rivojlanish yoʻllari va uning nazariy jihatdan insoniyatga zarar yetkazishi mumkin boʻlgan tarzda harakat qilishi borasida "ogohlantirish qoʻngʻirogʻi" sifatida qabul qilindi.