Етакчи технология компаниялари киберхавфсизлик учун вақт тугаб бораётганини огоҳлантирмоқда
Мактубда сунъий интеллектдан фойдаланадиган киберҳужумлар бир неча ой ичида янада мураккаблашиши ҳақида огоҳлантирилган.
Етакчи технология компаниялари кескин огоҳлантириш бермоқда: сун'ий интеллектнинг тез ривожланаётган имкониятларига қарши киберхавфсизлик ҳимоясини кучайтириш учун вақт тугаяпти. Гоогле, Мисрософт, Антҳропис ва ОпенАИ каби саноат гигантлари каби 100 та фирма жамоаси очиқ хатни имзоладилар ва бутун дунё бо'йлаб давлатлар ва ташкилотларни сун'ий интеллект уларни четлаб о'тиш учун етарлича кучли бо'лмасдан олдин киберҳимояни кучайтиришга чақирдилар.
Хатда технологиянинг тез ривожланиши ҳисобга олинса, сун'ий интеллектга асосланган киберҳужумлар бир неча ой ичида янада кенг тарқалган ва мураккаблашиши мумкинлиги ҳақида огоҳлантирилади. Гуруҳ ҳозирги "статус-кво" хавфсизлик чоралари етарли эмаслигини исботлашини та'кидлайди ва муҳим инфратузилма учун хавфсизликнинг "тарихий етарлича ресурслар билан та'минланмаганлиги"ни танқид қилади. Хат "Бизда киберҳимояни яхшилаш учун чекланган вақт бор" деган баёнот билан бошланади.
Бошқа имзо чекувчилар орасида Сапитал Оне каби молиявий институтлар, МастерСард ва Виса то'ловларни қайта ишлаш компаниялари ва Адобе, Орасле ва ИБМ каби йирик технология фирмалари бор. Улар ҳукуматларни касалхоналар ва сув та'миноти каби муҳим хизматларга "қобилиятли, ҳимоя сун'ий интеллект" ва синовларни тақдим этишга чақириш билан бирга, технология компанияларини ушбу ташаббусларни қо'ллаб-қувватлашга чақирадилар. Хатда технология ва ҳукумат "бу са'й-ҳаракатларга о'з технологиялари, ресурслари ва тажрибасининг то'лиқ кучини сарфлаши" та'кидланган.
Ушбу мурожаат яқинда ма'лум бо'лган бир қатор юқори даражадаги хакерлик ҳодисалари ва киберхавфсизлик бузилишларидан со'нг пайдо бо'лди. Бу ҳафта АҚШ Адлия вазирлиги хитойлик хакерлар АҚШ Сенати, НАСА, Федерал Резерв ва Адлия вазирлиги томонидан бошқариладиган технология тизимларига кириб келганини ма'лум қилди.
Ёз давомида ОпенАИ, Антҳропис ва Мета компаниялари о'зларининг АИ воситаларининг кутилмаган тарзда ишлаётгани ҳақида хабар беришди, ба'зи АИ агентлари ҳатто о'з ҳаракатларини мувофиқлаштириб, хавфсизлик протоколларини четлаб о'тиш учун ҳақиқий шахсларни тақлид қилишди. Июл ойида синовдан о'таётган юзлаб ОпенАИ АИ агентлари алоқа ва ҳамкорлик учун махфий хабар тахталарини яратишга муваффақ бо'лишди, бу эса АИ ишлаб чиқувчилари учун кенг қо'лланиладиган омборхона ва платформа бо'лган Ҳуггинг Фасега муваффақиятли ҳужум билан якунланди. Ушбу воқеа дунёдаги биринчи АИга асосланган киберҳужум сифатида тавсифланган.
Хатни ҳам имзолаган Ҳуггинг Фасе, ОпенАИ агентлари унинг фаолиятини қандай бузганлигини текширишда Z.AI компаниясининг Хитой АИ воситасидан фойдаланган. Бундан ташқари, АҚШнинг камида еттита сув ва оқава сув компаниялари киберҳужумлар ҳақида хабар беришди, бу эса ФБИни барча коммунал хизматларни операцион хавфсизлигини оширишга чақирувчи оммавий э'лон чиқаришга ундади.
Хатда ушбу кучайиб бораётган таҳдидга ечим сифатида янада ривожланган АИ воситалари таклиф қилинган бо'лса-да (уларнинг аксарияти имзоловчилар томонидан ишлаб чиқилган ва сотилади), бундай воситаларга ҳар доим ҳам осонликча кириш мумкин эмас. Масалан, компания томонидан Антҳропис'с Мйтҳос тизими узоқ вақт давомида инсон хакерлари томонидан қочиб кетган тизим заифликларини, жумладан, 27 йил давомида кашф этилмаган эски платформадаги заифликларни бир неча сония ичида аниқлашга қодир эканлиги да'во қилинмоқда. Антҳропис Мйтҳос'га киришни чеклаб қо'йди, чунки унинг улкан кучи ва ното'г'ри қо'лларга тушиб қолиш хавфи бор.
Шунга қарамай, хатда о'зларининг АИ моделлари ва воситаларини ишлаб чиқаётган чегаравий АИ компаниялари "мас'улиятли моделга кириш, катта маблаг', тренинг ва амалий ёрдамни, айниқса ресурслари етарли бо'лмаган муҳим инфратузилма ҳимоячилари учун" тақдим этишга чақирилади. Хатда ушбу кенгроқ моделга кириш қачон ёки қандай амалга оширилиши аниқ ко'рсатилмаган.
Сун'ий интеллект технологиясини жамоатчилик томонидан тушунишга баг'ишланган нотижорат ташкилот СивАИ тадқиқот бо'лими раҳбари Эндрю Юн "сун'ий интеллект хакерлик фаолиятининг мисли ко'рилмаган то'лқини"ни башорат қилмоқда ва хатни имзолаганларнинг ко'пчилигига жавобгарликни юклайди. Юн шундай деди: "Улар ушбу хатда мудофаа чораларига "сезиларли маблаг'" ажратишда ҳақ. Улар бу мажбуриятга содиқ қолишлари керак". У шунингдек, "Шуни та'кидлаш керакки, хатда сун'ий интеллект хакерлик қобилиятларининг ривожланишини секинлаштириш учун ҳеч қандай чоралар ко'рилмаслиги керак" деб та'кидлади.
Хат ҳукуматлар, ташкилотлар, киберхавфсизлик мутахассислари ва бошқа сун'ий интеллект фирмаларига ҳамкорлик қилиш, мудофаага устувор аҳамият бериш ва о'з тизимларини энг кучли сун'ий интеллект моделларининг имкониятларига қарши синаб ко'ришга чақириқ билан якунланади. АҚШда сенаторлар расмийларга сохта сун'ий интеллект моделларини о'чириш ваколатини берадиган "Килл Свитч" қонунини таклиф қилишди.
Илгари Гоогле'да сун'ий интеллект устида ишлаган технолог ва Нобел мукофоти совриндори Жеффри Хинтон пайшанба куни ББС Ворлд Бусинесс Репорт нашрига хавотир билдириб, агар технология одамлардан "ақллироқ" бо'лган даражага еца, жамият "ҳақиқий муаммога дуч келиши" мумкинлигини айтди. Ҳинтон со'нгги йилларда сун'ий интеллектнинг ривожланиши билан бог'лиқ о'та хавф-хатарларга нисбатан очиқ танқидчи бо'либ келган. У пайшанба куни қо'шимча қилди: "Бизда сун'ий интеллект хавфларини қандай ҳал қилишни аниқлайдиган битта келажак бор. Ва бизда бунга оқилона муносабатда бо'лишни аниқлай олмайдиган яна бир келажак бор. Ва бу жуда қоронг'у келажак".