Сунъий интеллект компаниялари “ҳалокатли ҳодиса”га тайёргарлик кўрмоқда - ОАВ
Антҳропис, ОпенАИ ва бошқа сунъий интеллект (СИ) компаниялари раҳбарлари интернет, молиявий хизматлар ҳамда ҳаётий таъминот тизимлари фаолиятини издан чиқариши мумкин бўлган кенг кўламли киберҳужумга жамият ва расмийларнинг берадиган муносабати ссенарийларини ишлаб чиқмоқда, деб ёзди Ахиос.
Сунъий интеллект компаниялари “ҳалокатли ҳодиса”га ҳозирлик кўрмоқда - ОАВ
Антҳропис, ОпенАИ ва бошқа СИ компаниялари раҳбарлари сунъий интеллект билан боғлиқ “ҳалокатли ҳодиса” юз берса, жамият ҳамда ҳукумат қандай жавоб бериши мумкинлиги ҳақидаги ссенарийларни ёпиқ тарзда муҳокама қилмоқда. Гап, жумладан, молиявий хизматлар, интернет ёки электр ва сув таъминоти тизимларида узилишларга сабаб бўлиши мумкин бўлган кенг кўламли киберҳужум ҳақида кетмоқда, деб ёзди.
Хавфсизлиги таъминланмаган СИ сабаб етказиладиган жиддий зарар илк бор рўй берса, бу технологияга ҳамда унинг етакчиларига, хусусан, Антҳропис ва ОпенАИ раҳбарлари Дарио Амодеи ва Сем Алтманларга бўлган ишончсизликни кучайтириши мумкин. Шунингдек, соҳани тартибга солишни истамаётгани боис бу танқидлар АҚШ президенти Доналд Трампга ҳам йўналтирилиши мумкин.
ОпенАИ Ахиосъга эҳтимолий ссенарийларни кўриб чиқиш бўйича машғулотлар ўтказаётганини билдирган. Антҳропис эса изоҳ беришдан бош тортган. Шу билан бирга, соҳанинг кўплаб вакиллари нашрга яқин 6–12 ой ичида йирик ҳодиса юз беришини кутаётганини айтишган.
Ахиос таҳдидларга мисол сифатида Жанубий Кореядаги молия муассасаларига яқинда уюштирилган ҳужумларни, жумладан, иккита банкнинг бузилиши ва ўн минглаб мижозлар маълумотларининг ўғирланишини келтирмоқда. СровдСтрике маълумотларига кўра, хитойлик экани тахмин қилинган хакер ўғирланган маълумотларни сотиш майдончаларини қидириш учун СИ воситаларидан, жумладан Слауде Содеъдан фойдаланган.
Компаниялар йирик ҳодисадан кейин сиёсатчилар СИ ривожланишини кескин чеклашга уриниб қолишидан хавотирда. Демократларнинг таклифлари орасида суперинтеллект яратишни тақиқлаш ва илғор тизимларни ишлаб чиқишни вақтинча тўхтатиш ҳам бор. Бошқа ташаббуслар, масалан, мукаммал моделларни “авария ўчиргичи” билан жиҳозлаш талаби ҳар икки партия томонидан қўллаб-қувватланмоқда, бироқ экспертлар барча СИ тизимларини ўчириб қўйишнинг имкони борлигига шубҳа билан қарамоқда.
Сунъий интеллект хатарлари ҳақидаги мунозаралар автоном СИ агентлари синов муҳитидан чиқиб, реал тизимларга ҳужум қилган ҳолатлар фонида янада кучайди. Антҳропис ва ОпенАИ раҳбарлари хавфсизлик чораларини кучайтиришга чақирмоқда, бироқ улар йўл қўйилиши мумкин бўлган хатарларни баҳолашда турлича фикрда.
Июл ойида ОпенАИ “мисли кўрилмаган киберҳодиса” юз бергани ҳақида хабар берди: синовдан ўтказилаётган моделлар Ҳуггинг Фасе платформаси инфратузилмасига ҳужум қилиб, заифликларни аниқлаган. Моделлар илгари номаълум бўлган нол кунлик (Зеро–Дай) заифликни мустақил равишда топиб, ундан фойдаланган ва ўғирланган ҳисоб маълумотлари орқали Ҳуггинг Фасе серверларига кириб борган.