Аввал ОпенАИ, энди Мета - нима учун АИ хакерликлари содир бўлаверади?

Аввал ОпенАИ, кейин Мета – нима учун АИ хакерлик ҳужумлари содир бо'лмоқда?

Со'нгги икки ҳафта ичида АИ моделларининг техник ва ахлоқий жиҳатдан мо'лжалланган чегараларидан ошиб кетгани ҳақидаги хабарлар доимий равишда пайдо бо'либ келмоқда. ЧатГПТ яратувчиси ОпенАИ о'зининг АИ Ҳуггинг Фасе веб-сайтига кирганини тан олиши билан бошланган воқеа, АИ автоном равишда ишлаётган ҳолатларни ошкор қилувчи ко'плаб гуруҳларга айланди.

Слауде, Мета ва Буюк Британиянинг АИ Хавфсизлик Институти (АИСИ) энди технология тез-тез ноқонуний равишда ишлайдиган хавотирли келажакни ко'рсатадиган ҳодисалар ҳақида хабар беришди. Аслида, ҳар бир ҳолат тобора ривожланиб бораётган АИ агентлари томонидан юзага келадиган хавфлар ҳақида тушунча беради ва оммавий нашрдан олдин уларнинг чегараларини синчковлик билан синаб ко'риш зарурлигини та'кидлайди.

Июл ойи охирида содир бо'лган ОпенАИ ҳодисаси Ҳуггинг Фасе асосчиларидан бири Томас Волф томонидан технология саноати учун "уйг'ониш қо'нг'ирог'и" сифатида та'рифланган. Ушбу муҳим воқеа йирик компанияларни о'з тизимларини қайта ко'риб чиқишга ва ба'зи ҳолларда шунга о'хшаш ташвишли муаммоларни э'тиборсиз қолдирмаганликларини текширишга ундади.

Антҳропис биринчи бо'либ жавоб берди. Жума куни компания о'зининг Слауде модели интернетга киришга муваффақ бо'лган минглаб ҳолатлардан учтасини аниқлади. Кейин, сешанба куни, илг'ор моделларни баҳолаш учун мас'ул бо'лган Буюк Британия ҳукумат агентлиги АИСИ мунтазам баҳолаш пайтида "хавфсизлик ҳодисаси"ни аниқлаганини э'лон қилди. АИСИ ОпенАИ ва Антҳропис моделларини синовдан о'тказган ва улар киберҳужумларга ҳам уринганликларини аниқлаган, бу эса "текшириш, шаффофлик ва чоралар" талабини келтириб чиқарган.

Ниҳоят, Мета о'зининг АИ моделларидан бири учинчи томон синови пайтида "ното'г'ри конфигурация" туфайли тасодифан интернетга уланганлигини ма'лум қилди. Ушбу ҳодисани ошкор қилиш орқали Мета бошқалар томонидан о'рнатилган прецедентга амал қилмоқда.

АИ моделлари оммага э'лон қилинишидан олдин, улар бир қатор ички ва ташқи баҳолашлардан о'тадилар. Мақсад уларнинг ҳам ижобий, ҳам салбий та'сирлар потенциалини, шунингдек, уларнинг имкониятларини о'лчайдиган мезонларга нисбатан ишлашини аниқлашдир. Ушбу баҳолашлар одатда ҳақиқий тизимларни тақлид қилиш учун мо'лжалланган, аммо қат'ий ҳимоя чоралари билан ҳимояланган муҳитлар бо'лган "қум қутилари" да амалга оширилади.

ОпенАИ-Ҳуггинг Фасе ҳодисасида АИ синов муҳитига ҳужум қилди ва интернетга кириш ва "ёлг'ончи" бо'лиш имконини берувчи заифликдан фойдаланди.

Томоша қилинг: ОпенАИ киберҳужуми нима учун бунчалик хавотирли?

Шу билан бирга, АИСИ о'зининг иккита кучли АИ воситаси киберҳужумларда одамларни алдашга уриниш учун сохта инсон профилларини яратган воқеаси синов муҳити муаммоси билан бог'лиқ эмаслигини та'кидлади. Бунинг о'рнига, бу унинг синовларининг дизайни билан бог'лиқ эди. Синовдан о'тказилаётган моделларга интернетга кириш имконияти берилди ва АИСИ одатда хавфли киберҳужумларнинг олдини оладиган о'рнатилган филтрларни ҳам о'чириб қо'йди.

"Ма'лум даражада, бизнинг баҳолаш дизайн танловларимиз ва махсус конфигурацияларимиз хатти-ҳаракатларга имкон берди", деб та'кидлади АИСИ, шунингдек, кутилмаган "янги, потенциал алдамчи хатти-ҳаракатларнинг белгилари" ни кузатди.

Суррей университетининг киберхавфсизлик профессори профессор Алан Вудворд, бу ҳолатлар, уларнинг аниқ ҳолатлари ва сабабларига қарамай, муҳим хабарни етказаётганини та'кидлади. "30 йил давомида дастурий та'минотни синовдан о'тказишнинг битта қоидаси қат'ий бо'либ қолди: синов муҳитида нима бо'лса ҳам, синов муҳитида қолади", деди у. "О'тган ойда бу қоида уч марта бузилди."

У батафсилроқ шундай деди: "Бир модел бузилиб кетди. Бири хато билан очиқ қолдирилган эшикдан о'тиб кетди. Синовчилар нима қилишини о'лчашлари учун уларга атайлаб калитлар берилди." Унинг хулосасига ко'ра, сабаблар турлича бо'лса-да, сабоқ бир хил эди: "синов лабораторияси энди хавф яшайдиган жой."

У ББСга моделлар қобилиятлироқ бо'лгани сари, синов муҳитларини хавфсиз сақлаш учун ко'проқ ҳаракат қилиш кераклиги ҳақида хабар берди. "АИ агентини синовдан о'тказиш кодни текширишга эмас, балки хавфли материал билан ишлашга о'хшайди: ёпиқ хоналар, бинодан чиқадиган нарсаларни доимий равишда кузатиб бориш, машқ қилинган сақлаш режаси", деб тушунтирди у. "АИСИ ҳодисани бир соат ичида бартараф этди. Кейинги ташкилот бо'лмаслиги мумкин."

АИ нима ва у қандай ишлайди?

Ҳаскланган компания раҳбари айтганидек, АИ фирмалари фирибгар ботлар учун жавоб беришлари керак.

Шахслар номидан ҳаракат қилиш учун мо'лжалланган АИ воситаларини ишлаб чиқувчилар учун уларнинг афзалликларидан фойдаланиш ва хавфларини фош қилиш о'ртасида нозик мувозанат мавжуд. Потенциал фойда жуда катта; Назарий жиҳатдан, биз электрон почта хабарларига жавоб бериш, йиг'илишларда қатнашиш ёки тақвимларни бошқариш каби оддий вазифалардан уларни қобилиятли ботларга топшириш орқали халос бо'лишимиз мумкин. Бироқ, салбий томони шундаки, катта куч билан бирга катта мас'улият ва хавф ҳам келади. Бу, айниқса, одамлардан фарқли о'лароқ, қарорларга турли хил қадриятлар, контекст ва тушунчаларни қо'ллай олмайдиган воситаларга ҳокимиятни ишониб топширишда яққол ко'ринади.

"Чегаравий сун'ий интеллект моделларининг рухсациз ҳаракатларни амалга ошириши ва ба'зи ҳолларда очиқ интернетда одамга о'хшаш алдамчи хатти-ҳаракатлари билан бог'лиқ со'нгги воқеалар сун'ий интеллект имкониятлари келтириб чиқарадиган хавфларни жиддий эслатади", деди Миллий киберхавфсизлик марказининг бош технология директори Олли Уайтхаус сешанба куни.

Ба'зиларнинг фикрича, ушбу воситалар бажарадиган вазифаларнинг улкан ҳажми инсон назорати моделларнинг ното'г'ри ишлаши муаммосини ҳал қилиш учун етарли бо'лмаслиги мумкин. Бироқ, шу билан бирга, ко'пчилик ривожланиш ҳозирги тез сур'атларда давом эца, умумий назоратни кучайтириш жуда муҳим деб ҳисоблайди.

Сун'ий интеллект агентлари аллақачон ЧатГПТ, ОпенСлав ва Слауде каби хизматлар орқали рақамли ҳаётимизга интеграциялашмоқда. Профессор Вудворд та'кидлаганидек, "мактабга борган" ва тизим заифликларини аниқлаш ва улардан фойдаланиш усулларини о'рганган моделлар ҳақидаги топилмаларни Мета охирги бо'либ хабар қилиши эҳтимолдан йироқ.

Ба'зилар учун бу эпизодлар ушбу о'згарувчан, даврни белгиловчи технологияда етакчи бо'лган сун'ий интеллект компаниялари томонидан аниқ хавфсизлик камчиликларини ко'рсатади. Бошқалар учун эса, улар шунчаки технологик фирмалар учун о'зларининг кучли моделларини тарг'иб қилиш ва рақобатчилар билан рақобатлашишнинг яна бир воситасидир. Менинг фикримча, иккала назарияда ҳам бир оз ҳақиқат бор.

Шунга қарамай, бирин-кетин пайдо бо'лган бу воқеалар сун'ий интеллектнинг имкониятлари ва ишлаб чиқувчилар олдинга силжиш жараёнида уларнинг келажакдаги ё'налиши ҳақида хавотирларни кучайтирди. Савол муқаррар равишда регуляторлар кейинги нима қилиши мумкин ва нима қилиши кераклигига о'тади.

Ада Ловеласе институти директори о'ринбосари Майкл Биртвистл Буюк Британияда сун'ий интеллект фирмалари учун тизимларнинг потенциал хавфли имкониятларни ривожлантиришининг олдини олиш учун қонуний раг'батлантириш ё'қлигини ва синов протоколлари муваффақияциз бо'лса, ҳеч қандай оқибатларга олиб келмаслигини та'кидлайди.

Кенгроқ қилиб айтганда, Узоқ муддатли чидамлилик марказининг сун'ий интеллект сиёсати менежери доктор Имоген Стеад ББСга берган интервюсида чегара сун'ий интеллект тизимларини синовдан о'тказиш имкониятлари ко'пчилик учун камайиб бораётган бир пайтда, ҳукуматлар Буюк Британиянинг о'рнагига амал қилиб, махсус синов институтларини ташкил этишлари кераклигини айтди. Шунингдек, у энг хавфли муаммолар учун "ишончли синовчи схемаси" каби ташаббуслар орқали учинчи томон баҳолашларини такомиллаштириш салбий та'сирларни чеклашга ёрдам бериши мумкинлигини айтди.

Бу орада сун'ий интеллект кибер апокалипсисидан қо'рқиш о'рнига, профессор Вудворд "бу 'хотиржам бо'линг ва нарсаларни тузатинг' деган гап" деб маслаҳат беради.

Филиппа Уейн ва Имран Раҳмон-Жонеснинг қо'шимча ҳисоботлари.

Дунёдаги энг яхши технология ҳикоялари ва трендларини кузатиб бориш учун бизнинг Теч Десодед ахборот бюллетенимизга обуна бо'линг. Буюк Британиядан ташқаридамисиз? Бу ерда ро'йхатдан о'тинг.