Sunʼiy intellekt vaziri Buyuk Britaniyaning kiberhimoyasi buzilishi «ehtimoldan xoli emasligidan» ogohlantirdi

Sun'iy intellekt boʻyicha vazir Buyuk Britaniyaning kiberhimoyasi yorib oʻtilishi «ehtimoldan xoli emasligi» haqida ogohlantirdi

Buyuk Britaniyaning AI (sun'iy intellekt) boʻyicha vaziri mamlakat kiberhimoyasi qachondir yorib oʻtilishi «ehtimoldan xoli emas, hatto muqarrar» ekanligidan ogohlantirdi.

Matbuot anjumanida chiqish qilgan Kanishka Narayan iyun oyida OpenAI rasmiy agenti Avstraliya hukumati veb-saytini buzib kirgan hodisani eslatib oʻtdi.

Uning ta'kidlashicha, hujum paytida tibbiy yozuvlarga kirish holatlari aniqlanmagan boʻlsa-da, ushbu hodisa baribir «bizni xavotirga solishi» kerak.

Narayan hukumat kelgusidagi har qanday jiddiy hodisalarga qanday tayyorgarlik koʻrishni rejalashtirayotganini tushuntirar ekan, tahdidga qarshi kurashishda ilgʻor AIdan foydalanish niyatida ekanligini aytdi.

Vazirning ta'kidlashicha, ushbu yondashuv davlat tizimlarida 1 000 dan ortiq zaifliklarni aniqlash va bartaraf etishga yordam bergan ikkita mavjud tajriba loyihasiga asoslanadi.

U dunyoning eng kuchli AI tizimlari ortida turgan eng yirik kompaniyalarga murojaat qilib, shunday dedi: «Olimlaringiz jiddiy xavf-xatarlardan ogohlantirganda ularga quloq tuting. Kutilmagan xatti-harakatlarni oʻrganing. Va agar xavflarni yetarlicha nazorat qila olmasangiz, tizimni foydalanishga topshirmang».

Oʻz nutqida Narayan, shuningdek, Buyuk Britaniyaning AI nazorati boʻyicha organi — AI Xavfsizligi Instituti (AISI) olimlari «xavf-xatarlarni barvaqt aniqlash» hamda «odamlar xavfsizligini ta'minlashga yordam beradigan ishonchli himoya choralarini sinovdan oʻtkazish» uchun ilgʻor AI modellarining soʻnggi avlodini «qat'iy baholash» ishlarini olib borayotganini tasdiqladi.

AISI 2023-yil noyabr oyida tashkil etilganidan koʻp oʻtmay, eng yangi ilgʻor AI modellarining ommaga taqdim etilishidan oldingi xavf-xatarlarini baholashni boshlagan edi.

Biroq, sentabr oyida Oq uy ba'zi yetakchi AQSh laboratoriyalaridan oʻz sinovlari yakunlanmagunicha, modellarini ushbu tadqiqot tashkiloti bilan ulashmaslikni soʻragani haqida xabar berilgan edi.

Oʻsha paytda bu qadam ochiq, konstruktiv va hamkorlikdagi AI sinovlarini ilgari surgani uchun Buyuk Britaniya hukumati va uning hamkorlari tomonidan e'tirof etilgan AISI uchun ortga chekinish sifatida koʻrilgan edi.

Microsoft prezidenti Bred Smit yaqinda BBCga bergan intervpyusida institut Buyuk Britaniyani global tartibga solishni ilgari surish uchun eng maqbul mavqega ega mamlakat sifatida qaror topishiga yordam berganini aytdi.

Dushanba kuni Narayan oxirgi bir necha hafta ichida hukumat AQSh bilan «Buyuk Britaniyaning AISI instituti eng kuchli AI modellari ommaga taqdim etilishidan oldin ularga kirish huquqini saqlab qolishi uchun» hamkorlik qilganini aytdi.

U, shuningdek, Buyuk Britaniya Kiberxavfsizlik va chidamlilik toʻgʻrisidagi qonun loyihasi orqali kuchliroq himoya choralarini, ayniqsa AI bilan bogʻliq jiddiy hodisalarni qanday aniqlash va xabar qilishni koʻrib chiqishini bildirdi.

Ushbu bayonot OpenAI va Anthropic kabi yirik kompaniyalardagi AI agentlarining inson nazoratidan chiqib ketishi va tashqi tizimlarga buzib kirishi bilan bogʻliq bir qator hodisalardan soʻng berildi.

9-sentabr kuni Anthropic kompaniyasining yetakchi xavfsizlik tadqiqotchisi Evan Xubinger X platformasidagi postida AI shunchalik jadal rivojlanayotganini, u kelgusi oʻn yillikda AIning «barcha insoniyatni yoʻq qilish» ehtimoli 10% dan yuqori deb introduces qilishini ogohlantirdi.

AQShda joylashgan Anthropic, OpenAI va Google DeepMind kabi AI gigantlarining rahbarlari AI rivojlanishini sekinlashtirish gʻoyasini qoʻllab-quvvatladilar.

Biroq, hozirda kompaniyalar va ularning texnologiyalarini tartibga soluvchi global xavfsizlik qoidalari mavjud emas.

Ayni paytda, Prezident Tramp AQSh kompaniyalari xitoylik raqobatchilardan ortda qolib ketmasligi uchun ushbu sektorni oʻz-oʻzini tartibga solishga chaqirdi.