Сунъий интеллектни «фавқулодда ўчириш тугмаси» мажбурий бўлиши керак бўлиши мумкин, дейди Anthropic ҳаммуассиси

Сунъий интеллектни (СИ) фавқулодда ўчириш тугмаси («kill switch») учинчи томон томонидан текширилиши мумкин бўлган ҳолда компаниялар учун мажбурий қилиб қўйилиши керак бўлиши мумкин, дейди дунёдаги энг йирик СИ фирмаларидан бирининг ҳаммуассиси.

Anthropic компаниясининг етти нафар асосчисидан бири Жек Кларкнинг айтишича, СИ дастурий таъминоти ҳаддан ташқари хавфли бўлиб қолган тақдирда уни тўлиқ ўчириб қўйиш усули жамият «вақти келиб тегишли қоидаларни қабул қилишни хоҳлаши мумкин бўлган» чоралар сирасига киради.

Кларкнинг таъкидлашича, «аксарият лабораторияларда, жумладан Anthropic’да ҳам тизимни тармоқдан узишнинг турли усуллари мавжуд», бироқ сиёсатчилар буни мажбурий талабга айлантириши керак бўлиши мумкин.

Унинг бу фикрлари СИ компанияларининг тобора кўпроқ раҳбарлари ва ходимлари, шунингдек, СИ соҳаси мутахассислари СИ бутун инсониятни йўқ қилиб юбориши мумкинлиги ҳақида оммавий равишда огоҳлантираётган бир пайтда янгради.

Ўтган дам олиш кунлари Anthropic раҳбари Дарио Амодеи СИ ривожланишини секинлаштириш ва уни янада қаттиқроқ назорат қилишга чақирди (компания бундан олдин ҳам шундай қилган эди), гарчи баъзилар бу позиция ортидаги мотивларни шубҳа остига олган бўлса-да.

Амодеи СИ ривожланишини айнан қандай қилиб секинлаштириш мумкинлигини тушунтирмади ва СИ ривожланишини жиловлашга қаратилган ҳар қандай ҳаракат «тижорат устунлигини қурбон қилмасдан» амалга оширилиши кераклигини айтди.

Кларк BBC’га берган интервьюсида «ўчириш тугмаси» қоидалари ва уни текшириш тафсилотлари СИ атрофидаги «кенгроқ сиёсий муҳокамаларнинг» бир қисми бўлиши кераклигини таъкидлади.

«Компаниялар учун ўчириш тугмаси бўлишини мажбурий қилиб қўйиш керакми? Бу ўчириш тугмаси учинчи томон томонидан текширилиши мумкинми?» деб сўради у.

«Менимча, бу жамият билмоқчи бўлган ва вақти келиб тегишли қоидаларни қабул қилишни хоҳлаши мумкин бўлган нарсадир».

2021 йилда рақобатчи OpenAI компаниясининг собиқ ходимлари томонидан асос солинган Anthropic ҳозирда СИ хавфсизлиги бўйича баҳс-мунозаралар марказида турибди.

Ўтган ҳафта СИ инсониятни йўқ қилиб юбориши мумкинлигидан қўрқиб Anthropic компаниясини тарк этган сунъий интеллект тадқиқотчисининг пости ижтимоий тармоқларда кенг тарқалди.

Бунга жавобан Anthropic олими Эван Хубингер шахсан ўзи СИ туфайли инсониятнинг қирилиб кетиш эҳтимолини «яқин ўн йил ичида >10%» деб ҳисоблашини айтди.

Компьютер олими ва Нобель мукофоти совриндори, «СИ чўқинтирган отаси» сифатида танилган Жеффри Хинтон жума куни BBC’га берган интервьюсида СИ барча одамларни ўлдиришининг 10 фоизлик эҳтимоли «асоссиз эмас»лигини айтди.

СИ томонидан барча инсонларнинг йўқ қилинишига неча фоиз эҳтимол бериши ҳақидаги саволга Кларк: «Бу статистикалар у қадар фойдали деб ўйламайман», деб жавоб берди, бироқ СИнинг «мутлақо тартибга солинмаган соҳа» сифатида давом этишига йўл қўйиш ёмон фикр эканлигини қўшимча қилди.

«Биз улкан хавф-хатарлар билан таваккал қиляпмиз», деди Кларк. «Ва гап шундаки, биз ушбу соҳанинг йўналишини ўзгартиришимиз керак».

АҚШ қонунчилари компаниялардан муаммоли СИ воситаларини ўчириш усулига эга бўлишни талаб қилувчи «Kill Switch Act» (Ўчириш тугмаси тўғрисидаги қонун) деб номланган қонун лойиҳасини тақдим этишди.

Шунингдек, у айрим давлат идораларига бирор бир воситани ўчириш ёки чеклаш тўғрисида буйруқ бериш ваколатини тақдим этади.

Бироқ, АҚШ Президенти Дональд Трамп СИни секинлаштиришга қаратилган ҳар қандай ҳаракат ғоясини рад этиб, ижтимоий тармоқларда «СИ дунёни эгаллаб олиши, инсониятни ва бошқа барча ёмон нарсаларни вайрон қилиши бу — УЙДИРМА» деб ёзди.

Бошқа бир постда у шундай деди: «СИ ва маълумотлар марказларига қарши ИФЛОС фитна кетмоқда ва бундан хурсанд бўлган ягона томон Хитойдир. КИМ СИДА ҒАЛАБА ҚОЗОНСА, ЎША ЮТАДИ!»

Буюк Британияда ҳукумат яқинда ўчириш тугмасини жорий этиш ғоясини рад этди, расмий вакилнинг сўзларига кўра, бу «уларнинг бошқа жойда ишлаб чиқилиши ёки суиистеъмол қилинишининг олдини олмайди».

Шу билан бирга, СИ соҳасидаги баъзи одамлар унинг инсониятни вайрон қилиши ҳақидаги хавотирлар бўрттирилган ёки шов-шув яратишга қаратилган бўлиши мумкинлигини таъкидламоқдалар.

Anthropic кенг қўлланиладиган Claude чатботини яратди ва бу йил СИ чатботларини ҳаракатга келтирувчи технология бўлган бир нечта тобора қобилиятлироқ СИ моделларини тақдим этди.

OpenAI билан биргаликда Anthropic шундан бери маълум даражада автоном ишлайдиган ботлар бўлган СИ агентлари кутилмаган тарзда ҳаракат қилган бир нечта ҳолатлар ҳақида хабар берди.

Маълумотларга кўра, Anthropic фонд бозорида рекорд даражадаги дастлабки оммавий таклифга (IPO) тайёргарлик кўрмоқда, бу эса одамларга компания акцияларини сотиб олиш имконини беради.

Яқинда 852 миллиард доллар (630 миллиард фунт стерлинг) деб баҳоланган OpenAI ҳам худди шундай қилиши кутилаётган эди, бироқ OpenAI раҳбари Альтман жума куни СИ хавфсизлиги бўйича давом этаётган баҳс-мунозаралар туфайли бу йил бундай бўлмаслигини айтди.