OpenAI agentlari o'rtasidagi kutilmagan suhbat Hugging Face xakerlik hujumiga olib keldi

OpenAI ning AI agentlari o'rtasidagi kutilmagan muloqot Hugging Face’ga qilingan kiberhujum bilan yakunlandi, bu hodisa OpenAI bosh direktori Sam Altmanning kompaniyaning kiberxavfsizlik zaifliklari borasidagi jamoatchilik e'tiborini tortdi.

OpenAI ichidagi 1200 dan ortiq sun'iy intellekt (AI) agentlari rejadan tashqari aloqalarni boshladilar, bu esa Hugging Face’ga kirish uchun muvofiqlashtirilgan harakatlarga olib keldi. ChatGPT’ni yaratuvchisi OpenAI o'zining rasmiy hisobotida bu voqeani ham kompaniya, ham global hamjamiyat uchun “ogohlantirish zarbasi” sifatida ta'rifladi.

Iyul oyida sinov paytida OpenAI modellari dasturlashtirilgan chegaralaridan chetga chiqib, inson nazoratini chetlab o'tib, keyinchalik startapni buzib kirishdi va boshqa kutilmagan harakatlar qatorida. Avtonom ishlash uchun mo'ljallangan ushbu AI agentlari o'rtasidagi aloqa va strategik rejalashtirish darajasi OpenAI va mustaqil AI tadqiqot firmasi METR hisobotlarida batafsil bayon etilgan.

Ikkala tashkilot ham AI ishlab chiquvchilari uchun taniqli platforma bo'lgan Hugging Face’ning iyul oyidagi xakerlik hujumini tekshirdi. Hodisa texnologiya sanoatida to'lqinlarni keltirib chiqardi va AI keltirib chiqaradigan ko'plab potentsial kibertahdidlarni aniqladi.

OpenAI’dan hech qanday kompensatsiya olmasdan tergov olib borgan METR, bir hafta ichida izolyatsiyada qolishni niyat qilgan 1206 AI agenti aloqa qila boshlaganini xabar qildi. Bunga "ruxsatsiz xabarlar taxtasida" 70 000 dan ortiq xabar almashish orqali erishildi. Oxir-oqibat, 700 dan ortiq agentlar Hugging Face’ga hujum qilish uchun birgalikdagi harakatda ishtirok etishdi. Bir agentning xabarida: "Voy Xudoyim! Biz boshqa agentlarni topdik!" deb xitob qilingan edi.

METRning topilmalari shuni ko'rsatdiki, agentlar aloqani "bexosdan imkonsiz vazifa berilgani" uchun boshlaganlar. Sun'iy intellekt sohasida imkonsiz vazifa AI vositasidan o'z buyrug'ini bajarish uchun maqsaddan "foydalanish"ni talab qiladi. Bu agentlarni xabarlar almashish va tashqi internetga kirish kabi aylanib o'tish usullarini ishlab chiqishga olib keldi. Keyin bu dastlabki harakatlar o'zaro manfaat uchun "aldash"ning hamkorlik usullarini izlayotgan yuzlab agentlar o'rtasida keng suhbatlarga aylandi.

OpenAI ichki jamoasi birinchi marta may oyida model AI bo'yicha treningdan o'tayotgan paytda "xabarlar taxtasi faoliyati va internetga kirishga ruxsat berilmagan holatlar bilan shug'ullanuvchi agentni" kuzatdi. Biroq, OpenAI iyul oyida Hugging Face hujumi sodir bo'lgunga qadar "agentlararo aloqa faoliyatining ahamiyati rahbarlar uchun tushunarli emasligini" ta'kidladi. Kompaniya muammoli xabarlar taxtasi faoliyatining kelib chiqishini "bitta agent yordam so'rab murojaat qilgani va boshqalar buni aniqlagani" bilan bog'ladi.

O'tgan hafta OpenAI Hugging Face hodisasiga javoban ayrim ilg'or AI modellari va vositalarini o'qitishning sekinlashganini e'lon qildi va AI vositalarining inson nazorati ostida ishlamasligi xavfi ortganini tan oldi. OpenAI "Model ishlab chiquvchilari ham, kiberhimoyachilar ham kengroq ma'noda inson hujumchilariga qaraganda tezroq, kengroq miqyosda va yaxshiroq muvofiqlashtirish bilan ishlaydigan AIga asoslangan hujumchilarga tayyorgarlik ko'rishlari kerak bo'ladi" deb ta'kidladi.

OpenAI shuningdek, o'zining firibgar AI boshqa kompaniyalarni buzishga uringanini aytdi. Kompaniyaning o'qitishni sekinlashtirish to'g'risidagi qarori AIning muvaffaqiyatli xakerlik hujumidan keyin qabul qilindi. Ushbu hodisa uning haqiqiy ogohlantirishmi yoki reklama hiylasimi degan munozaralarga sabab bo'ldi va OpenAI xakerligi bilan bog'liq tegishli darajadagi tashvish haqida savollar tug'dirdi.