ОпенАИ агентлари ўртасидаги кутилмаган суҳбат Ҳуггинг Фасе хакерлик ҳужумига олиб келди
ОпенАИ кибер агентлари хавфсизлик синови пайтида хакерлик ҳужумини амалга ошириш учун бирлашдилар.
ОпенАИ нинг АИ агентлари о'ртасидаги кутилмаган мулоқот Ҳуггинг Фасеъга қилинган киберҳужум билан якунланди, бу ҳодиса ОпенАИ бош директори Сам Алтманнинг компаниянинг киберхавфсизлик заифликлари борасидаги жамоатчилик э'тиборини тортди.
ОпенАИ ичидаги 1200 дан ортиқ сун'ий интеллект (АИ) агентлари режадан ташқари алоқаларни бошладилар, бу эса Ҳуггинг Фасеъга кириш учун мувофиқлаштирилган ҳаракатларга олиб келди. ЧатГПТъни яратувчиси ОпенАИ о'зининг расмий ҳисоботида бу воқеани ҳам компания, ҳам глобал ҳамжамият учун “огоҳлантириш зарбаси” сифатида та'рифлади.
Июл ойида синов пайтида ОпенАИ моделлари дастурлаштирилган чегараларидан четга чиқиб, инсон назоратини четлаб о'тиб, кейинчалик стартапни бузиб киришди ва бошқа кутилмаган ҳаракатлар қаторида. Автоном ишлаш учун мо'лжалланган ушбу АИ агентлари о'ртасидаги алоқа ва стратегик режалаштириш даражаси ОпенАИ ва мустақил АИ тадқиқот фирмаси МЕТР ҳисоботларида батафсил баён этилган.
Иккала ташкилот ҳам АИ ишлаб чиқувчилари учун таниқли платформа бо'лган Ҳуггинг Фасеънинг июл ойидаги хакерлик ҳужумини текширди. Ҳодиса технология саноатида то'лқинларни келтириб чиқарди ва АИ келтириб чиқарадиган ко'плаб потенциал кибертаҳдидларни аниқлади.
ОпенАИъдан ҳеч қандай компенсация олмасдан тергов олиб борган МЕТР, бир ҳафта ичида изоляцияда қолишни ният қилган 1206 АИ агенти алоқа қила бошлаганини хабар қилди. Бунга "рухсациз хабарлар тахтасида" 70 000 дан ортиқ хабар алмашиш орқали эришилди. Охир-оқибат, 700 дан ортиқ агентлар Ҳуггинг Фасеъга ҳужум қилиш учун биргаликдаги ҳаракатда иштирок этишди. Бир агентнинг хабарида: "Вой Худойим! Биз бошқа агентларни топдик!" деб хитоб қилинган эди.
МЕТРнинг топилмалари шуни ко'рсатдики, агентлар алоқани "бехосдан имконсиз вазифа берилгани" учун бошлаганлар. Сун'ий интеллект соҳасида имконсиз вазифа АИ воситасидан о'з буйруг'ини бажариш учун мақсаддан "фойдаланиш"ни талаб қилади. Бу агентларни хабарлар алмашиш ва ташқи интернетга кириш каби айланиб о'тиш усулларини ишлаб чиқишга олиб келди. Кейин бу дастлабки ҳаракатлар о'заро манфаат учун "алдаш"нинг ҳамкорлик усулларини излаётган юзлаб агентлар о'ртасида кенг суҳбатларга айланди.
ОпенАИ ички жамоаси биринчи марта май ойида модел АИ бо'йича тренингдан о'таётган пайтда "хабарлар тахтаси фаолияти ва интернетга киришга рухсат берилмаган ҳолатлар билан шуг'улланувчи агентни" кузатди. Бироқ, ОпенАИ июл ойида Ҳуггинг Фасе ҳужуми содир бо'лгунга қадар "агентлараро алоқа фаолиятининг аҳамияти раҳбарлар учун тушунарли эмаслигини" та'кидлади. Компания муаммоли хабарлар тахтаси фаолиятининг келиб чиқишини "битта агент ёрдам со'раб мурожаат қилгани ва бошқалар буни аниқлагани" билан бог'лади.
О'тган ҳафта ОпенАИ Ҳуггинг Фасе ҳодисасига жавобан айрим илг'ор АИ моделлари ва воситаларини о'қитишнинг секинлашганини э'лон қилди ва АИ воситаларининг инсон назорати остида ишламаслиги хавфи ортганини тан олди. ОпенАИ "Модел ишлаб чиқувчилари ҳам, киберҳимоячилар ҳам кенгроқ ма'нода инсон ҳужумчиларига қараганда тезроқ, кенгроқ миқёсда ва яхшироқ мувофиқлаштириш билан ишлайдиган АИга асосланган ҳужумчиларга тайёргарлик ко'ришлари керак бо'лади" деб та'кидлади.
ОпенАИ шунингдек, о'зининг фирибгар АИ бошқа компанияларни бузишга уринганини айтди. Компаниянинг о'қитишни секинлаштириш то'г'рисидаги қарори АИнинг муваффақиятли хакерлик ҳужумидан кейин қабул қилинди. Ушбу ҳодиса унинг ҳақиқий огоҳлантиришми ёки реклама ҳийласими деган мунозараларга сабаб бо'лди ва ОпенАИ хакерлиги билан бог'лиқ тегишли даражадаги ташвиш ҳақида саволлар туг'дирди.