Буюк Британия ҳукумати хавфли СИ учун «фавқулодда ўчириш тугмаси» ғоясини рад этди
Сунъий интеллект хавфсизлиги масалалари билан шуғулланувчи Вазирлар Маҳкамаси Буюк Британия «сунъий интеллектни шунчаки ўчириб қўя олмаслигини» айтмоқда.
Буюк Британия ҳукумати хавфли сунъий интеллектнинг ҳужумини тўхтатиш учун «ўчириш тугмаси» (kill switch) деб аталадиган тизимни жорий этиш ғоясини рад этди.
Сўнгги ҳафталарда, ушбу технология туғдириши мумкин бўлган хавф-хатарлардан хавотирлар кучайиб бораётган бир пайтда, лордлар ва парламент аъзолари фавқулодда вазиятларда Буюк Британияга сунъий интеллект моделини ўчириб қўйиш имконини берувчи ҳуқуқий механизмни жорий этиш таклифини илгари суришди.
Бироқ, сунъий интеллект хавфсизлиги бўйича етакчи давлат органи ҳисобланган Вазирлар Маҳкамаси департаменти (Cabinet Office) Буюк Британия «сунъий интеллектни шунчаки ўчириб қўя олмаслигини» билдирди.
«Буюк Британияда моделлардан фойдаланишни блоклаш уларнинг бошқа жойларда ишлаб чиқилиши ёки суиистеъмол қилинишининг олдини олмайди», деди департамент вакили BBC News телеканалига.
Ҳукуматнинг бундай позицияси қонун лойиҳасининг парламент орқали ҳаракатланишини тўхтатмаса-да, унинг қонунга айланиши эҳтимолини пасайтиради.
OpenAI собиқ тадқиқотчиси Даниэль Кокотайло ҳам халқаро келишувсиз ягона давлат томонидан ҳуқуқий ёки техник ўчириш тугмасини яратиш самарасиз эканлигига ишонишини айтди.
«Фавқулодда вазиятда сунъий интеллект моделига киришни ўчириб қўйиш сизни ҳимоя қилиш учун жуда кам фойда беради», деди у.
«Сиз барибир АҚШда яратилган супер интеллектлар томонидан босиб янчиб ташланасиз».
Кокотайло ўтган йили сунъий интеллект 2030-йилларнинг ўрталарига бориб инсониятни йўқ қилиб юбориши мумкинлигини башорат қилган нуфузли «AI2027» тадқиқот ҳужжати ҳаммуаллифи ҳисобланади.
Ўзининг Сунъий интеллект хавфсизлиги институти (AISI) орқали СИ хавфсизлиги ва тадқиқотларини назорат қилувчи Вазирлар Маҳкамаси департаменти «компаниялар ўз маҳсулотларини хавфсиз ишлаб чиқиш ва ушбу технология талаб қиладиган хавфсизлик инфратузилмасига сармоя киритиш бўйича аниқ масъулиятга эга» эканини таъкидлади.
Назарий жиҳатдан, ўчириш тугмаси тўғрисидаги қонун Буюк Британияга фавқулодда вазиятда мамлакатдаги маълумотлар марказларида жойлашган сунъий интеллект моделини ўчиришга рухсат бериши мумкин.
1 сентябрь куни Лордлар палатасидаги мунозарада сўзга чиққан лорд Клемент-Жонс бошқа тенгдошлари қаторида ушбу ғояни илгари сурди.
«Агар Буюк Британия маълумотлар марказида жойлаштирилган ёки бизнинг муҳим инфратузилмамизга интеграция қилинган юқори имкониятли автоном илғор модел назоратдан чиқиб кетса, алгоритмик хатоликка йўл қўйса ёки тизим бутунлай бузилса, хавфсизлик хизматларимиз ва регуляторларимиз жисмоний ёки рақамли ўчиришни мажбурлаш учун ҳеч қандай тезкор қонуний механизмга эга эмас», деб огоҳлантирди у.
Ушбу таклиф кейинчалик Жамоатчилик палатасида лейборист депутат Алекс Собел томонидан кўтарилди ва турли партиялар депутатлари гуруҳи томонидан қўллаб-қувватланди.
Бу ғоя OpenAI, Anthropic ва Meta компанияларининг сунъий интеллект моделлари синов муҳитларидан чиқиб кетгани ва назоратсиз хакерлик ҳужумларини амалга оширгани ҳақидаги хабарлардан кейин пайдо бўлди.
Баъзи ҳолларда, технология ўзи қилаётган иш тадқиқотчилар томонидан ўрнатилган чекловларни бузаётганини тушунаётгандек туюлган.
Якшанба куни OpenAI бош илмий ходими тобора кучайиб бораётган сунъий интеллект моделларидан келадиган хавф «афсуски ортиб бораётганини» ва инсоният «ўта эҳтиёткорлик» билан ҳаракат қилиши кераклигини айтди.
Сўнгра чоршанба куни Anthropic ходими истеъфога чиқиб, ушбу компания ва OpenAI «одамлар ҳаёти билан қимор ўйнаётганини» таъкидлади.
Бундан кейин Anthropic катта тадқиқотчиси сунъий интеллект яқин ўн йил ичида «барча инсонларни ўлдириши» эҳтимоли 10 фоиздан юқори эканлигига ишонишини тан олди.
Ўчириш тугмаси ғоясини танқид қилувчилар бу жуда секин бўлишини таъкидламоқдалар, чунки назоратдан чиққан тизимларнинг ҳужумларини аниқлаш учун бир неча ой керак бўлган ва бу фақат хакерлик ҳужумлари асосан тугаганидан кейингина маълум бўлган.
Ўчириш тугмаси самарали бўлиши учун технология гигантлари, айниқса энг йирик маълумотлар марказлари жойлашган АҚШда, ундан кенг миқёсда фойдаланишга мажбурланиши керак.
Кокотайло ўчириш тугмалари «ҳеч нарсадан кўра яхшироқ» эканини айтди, аммо Буюк Британия ва бошқа мамлакатлардаги сиёсатчиларни сунъий интеллект ривожланишини сезиларли даражада секинлаштирадиган тартибга солишни рағбатлантириш учун АҚШ билан дипломатияга эътибор қаратишга чақирди.
Ўчириш тугмаси тўғрисидаги қонун АҚШ сиёсатчилари томонидан ҳам муҳокама қилинмоқда, бироқ президент Трамп бу технология инсоният учун хавф туғдиришига ишонмаслигини айтиб, ушбу соҳани «олтин тухум қўядиган товуқ» деб таърифлаган.
Вазирлар Маҳкамаси департаменти «сунъий интеллектдан келиб чиқадиган хавфларни тушуниш ва уларга тайёргарлик кўриш учун узоқ муддатли, илм-фанга асосланган ёндашувни» давом эттираётганини билдирди.