Yetakchi texnologiya kompaniyalari kiberxavfsizlik uchun vaqt tugab borayotganini ogohlantirmoqda
Maktubda sun'iy intellektdan foydalanadigan kiberhujumlar bir necha oy ichida yanada murakkablashishi haqida ogohlantirilgan.
Yetakchi texnologiya kompaniyalari keskin ogohlantirish bermoqda: sun'iy intellektning tez rivojlanayotgan imkoniyatlariga qarshi kiberxavfsizlik himoyasini kuchaytirish uchun vaqt tugayapti. Google, Microsoft, Anthropic va OpenAI kabi sanoat gigantlari kabi 100 ta firma jamoasi ochiq xatni imzoladilar va butun dunyo bo'ylab davlatlar va tashkilotlarni sun'iy intellekt ularni chetlab o'tish uchun yetarlicha kuchli bo'lmasdan oldin kiberhimoyani kuchaytirishga chaqirdilar.
Xatda texnologiyaning tez rivojlanishi hisobga olinsa, sun'iy intellektga asoslangan kiberhujumlar bir necha oy ichida yanada keng tarqalgan va murakkablashishi mumkinligi haqida ogohlantiriladi. Guruh hozirgi "status-kvo" xavfsizlik choralari yetarli emasligini isbotlashini ta'kidlaydi va muhim infratuzilma uchun xavfsizlikning "tarixiy yetarlicha resurslar bilan ta'minlanmaganligi"ni tanqid qiladi. Xat "Bizda kiberhimoyani yaxshilash uchun cheklangan vaqt bor" degan bayonot bilan boshlanadi.
Boshqa imzo chekuvchilar orasida Capital One kabi moliyaviy institutlar, MasterCard va Visa to'lovlarni qayta ishlash kompaniyalari va Adobe, Oracle va IBM kabi yirik texnologiya firmalari bor. Ular hukumatlarni kasalxonalar va suv ta'minoti kabi muhim xizmatlarga "qobiliyatli, himoya sun'iy intellekt" va sinovlarni taqdim etishga chaqirish bilan birga, texnologiya kompaniyalarini ushbu tashabbuslarni qo'llab-quvvatlashga chaqiradilar. Xatda texnologiya va hukumat "bu sa'y-harakatlarga o'z texnologiyalari, resurslari va tajribasining to'liq kuchini sarflashi" ta'kidlangan.
Ushbu murojaat yaqinda ma'lum bo'lgan bir qator yuqori darajadagi xakerlik hodisalari va kiberxavfsizlik buzilishlaridan so'ng paydo bo'ldi. Bu hafta AQSh Adliya vazirligi xitoylik xakerlar AQSh Senati, NASA, Federal Rezerv va Adliya vazirligi tomonidan boshqariladigan texnologiya tizimlariga kirib kelganini ma'lum qildi.
Yoz davomida OpenAI, Anthropic va Meta kompaniyalari o'zlarining AI vositalarining kutilmagan tarzda ishlayotgani haqida xabar berishdi, ba'zi AI agentlari hatto o'z harakatlarini muvofiqlashtirib, xavfsizlik protokollarini chetlab o'tish uchun haqiqiy shaxslarni taqlid qilishdi. Iyul oyida sinovdan o'tayotgan yuzlab OpenAI AI agentlari aloqa va hamkorlik uchun maxfiy xabar taxtalarini yaratishga muvaffaq bo'lishdi, bu esa AI ishlab chiquvchilari uchun keng qo'llaniladigan omborxona va platforma bo'lgan Hugging Facega muvaffaqiyatli hujum bilan yakunlandi. Ushbu voqea dunyodagi birinchi AIga asoslangan kiberhujum sifatida tavsiflangan.
Xatni ham imzolagan Hugging Face, OpenAI agentlari uning faoliyatini qanday buzganligini tekshirishda Z.AI kompaniyasining Xitoy AI vositasidan foydalangan. Bundan tashqari, AQShning kamida yettita suv va oqava suv kompaniyalari kiberhujumlar haqida xabar berishdi, bu esa FBIni barcha kommunal xizmatlarni operatsion xavfsizligini oshirishga chaqiruvchi ommaviy e'lon chiqarishga undadi.
Xatda ushbu kuchayib borayotgan tahdidga yechim sifatida yanada rivojlangan AI vositalari taklif qilingan bo'lsa-da (ularning aksariyati imzolovchilar tomonidan ishlab chiqilgan va sotiladi), bunday vositalarga har doim ham osonlikcha kirish mumkin emas. Masalan, kompaniya tomonidan Anthropic's Mythos tizimi uzoq vaqt davomida inson xakerlari tomonidan qochib ketgan tizim zaifliklarini, jumladan, 27 yil davomida kashf etilmagan eski platformadagi zaifliklarni bir necha soniya ichida aniqlashga qodir ekanligi da'vo qilinmoqda. Anthropic Mythos'ga kirishni cheklab qo'ydi, chunki uning ulkan kuchi va noto'g'ri qo'llarga tushib qolish xavfi bor.
Shunga qaramay, xatda o'zlarining AI modellari va vositalarini ishlab chiqayotgan chegaraviy AI kompaniyalari "mas'uliyatli modelga kirish, katta mablag', trening va amaliy yordamni, ayniqsa resurslari yetarli bo'lmagan muhim infratuzilma himoyachilari uchun" taqdim etishga chaqiriladi. Xatda ushbu kengroq modelga kirish qachon yoki qanday amalga oshirilishi aniq ko'rsatilmagan.
Sun'iy intellekt texnologiyasini jamoatchilik tomonidan tushunishga bag'ishlangan notijorat tashkilot CivAI tadqiqot bo'limi rahbari Endryu Yun "sun'iy intellekt xakerlik faoliyatining misli ko'rilmagan to'lqini"ni bashorat qilmoqda va xatni imzolaganlarning ko'pchiligiga javobgarlikni yuklaydi. Yun shunday dedi: "Ular ushbu xatda mudofaa choralariga "sezilarli mablag'" ajratishda haq. Ular bu majburiyatga sodiq qolishlari kerak". U shuningdek, "Shuni ta'kidlash kerakki, xatda sun'iy intellekt xakerlik qobiliyatlarining rivojlanishini sekinlashtirish uchun hech qanday choralar ko'rilmasligi kerak" deb ta'kidladi.
Xat hukumatlar, tashkilotlar, kiberxavfsizlik mutaxassislari va boshqa sun'iy intellekt firmalariga hamkorlik qilish, mudofaaga ustuvor ahamiyat berish va o'z tizimlarini eng kuchli sun'iy intellekt modellarining imkoniyatlariga qarshi sinab ko'rishga chaqiriq bilan yakunlanadi. AQShda senatorlar rasmiylarga soxta sun'iy intellekt modellarini o'chirish vakolatini beradigan "Kill Switch" qonunini taklif qilishdi.
Ilgari Google'da sun'iy intellekt ustida ishlagan texnolog va Nobel mukofoti sovrindori Jeffri Xinton payshanba kuni BBC World Business Report nashriga xavotir bildirib, agar texnologiya odamlardan "aqlliroq" bo'lgan darajaga yetsa, jamiyat "haqiqiy muammoga duch kelishi" mumkinligini aytdi. Hinton so'nggi yillarda sun'iy intellektning rivojlanishi bilan bog'liq o'ta xavf-xatarlarga nisbatan ochiq tanqidchi bo'lib kelgan. U payshanba kuni qo'shimcha qildi: "Bizda sun'iy intellekt xavflarini qanday hal qilishni aniqlaydigan bitta kelajak bor. Va bizda bunga oqilona munosabatda bo'lishni aniqlay olmaydigan yana bir kelajak bor. Va bu juda qorong'u kelajak".