Сунъий интеллект соҳасининг барча ходимлари ҳам ушбу технология бутун инсониятни ҳалок қилиши мумкин деб ҳисобламайди

Ҳамма сунъий интеллект (СИ) ходимлари ҳам бу технология бутун инсониятни қириб юбориши мумкин деб ҳисобламайди.

Йирик сунъий интеллект компанияларининг барча ходимлари ҳам ушбу технология инсониятнинг омон қолишига таҳдид солади деб ишонмайди.

OpenAI, Meta ва DeepMind каби фирмаларда ишлаган бир неча киши ўзаро ёзишмалар ва муҳокамаларда назоратсиз СИ ривожланиши одамларни оммавий равишда ўлдиришга қодир воситаларни яратади деган фикрга шубҳа билдирди.

Би-би-си соҳанинг баъзи таниқли вакиллари томонидан яқинда берилган жиддий огоҳлантиришларга нисбатан олинган жавоблар орасида қуйидагиларни келтирди: "Лол" (кулгили), "Хаааааа" ва "Кулгимизни қистатяпти".

Гарчи бу хавотирлар ўнлаб йиллар олдин пайдо бўлган бўлса-да, ўтган ҳафта Anthropic собиқ ходими Жейкоб Коксон томонидан билдирилган фикрлар интернетда кенг тарқалди ва соҳадаги бошқалар томонидан такрорланиб, ривожланишни секинлаштиришга чақириқлар янгради.

Келажакдаги СИ воситаси ёки агенти — маълум бир мустақиллик билан ишлашга мўлжалланган СИ боти — одамларни хавф остига қўйиши мумкинлиги ҳақидаги ғоя Anthropic, шунингдек, OpenAI, Deepmind ходимлари ва xAI деб номланган СИ стартапини бошқарадиган Илон Маск томонидан қўллаб-қувватланган.

Би-би-си билан суҳбатлашган барча ходимлар матбуот билан гаплашишга рухсат берилмагани учун исмлари сир қолишини сўрашган. Би-би-си уларнинг шахсини билади.

"Биринчи хаёлимга келган нарса: 'Шу йигитми?' бўлди", деди Коксон билан бир вақтда компанияда бирга ишлаган собиқ OpenAI ходими.

Ҳозирда бошқа СИ компаниясида ишлаётган бу шахснинг айтишича, СИнинг экзистенциал хавф-хатарлари ҳақидаги сўнгги ваҳималар унда кулги уйғотганига сабаб — бу ғоя тарафдорлари бутун инсоният ҳаёти хавф остида эканлиги ҳақидаги даъвони асослаш учун жуда кам тафсилотлар тақдим этганидир.

Даъволар "ҳар доим мавҳум", деди у ва улар аниқлаштирилганда одатда мантиқий узилишлар ёки фараз қилинган сценарийларга таянишини қўшимча қилди.

Коксоннинг таъкидлашича, ҳали мавжуд бўлмаган СИ моделлари асосида яратилган бир гуруҳ СИ агентлари биологик қурол яратиш ва ундан мақсадли фойдаланишга қарор қилиши мумкин, бироқ у бунинг айнан қандай содир бўлишини тушунтириб бермади.

ДеепМинд'да етти йил ишлагандан сўнг шу ёзда Sampura Research СИ хавфсизлигини тадқиқ қилиш фирмасига асос солган Ришуб Жаин Би-би-сига берган интервьюсида, ҳозирда СИ соҳасида ишлаётган кўплаб одамларнинг сўнгги хавотирларга нисбатан кайфияти "шубҳасиз, бироз ҳазиломуз" эканини айтди.

"Одамлар бу ғоя ҳақида кўп йиллардан бери гапириб келишмоқда, шунинг учун СИ компанияларидаги ходимлар ўтган ҳафта тўсатдан уйғониб: 'Оҳ, йўқ, СИ ҳаммани ўлдиради', деб ўйлаб қолишгани йўқ", деди Жаин. "Агар буларнинг барчаси янгилик бўлганида, муносабат бошқача бўларди".

Meta маълумотлар таҳлилчиси Колин Фрейзер ўтган ҳафта ижтимоий тармоқларда СИ моделлари муқаррар равишда инсон ўлими билан тугайдиган мақсад сари интилиши ҳақида ҳеч қандай асосли далил йўқлигини ёзди.

Гарчи Фрейзернинг тушунтириши техник ва батафсил бўлса-да, у буни ҳазиломуз тарзда хулоса қилди: "ЛЛМ'лар [йирик тил моделлари] инсониятни йўқ қилиб юбормайди, чунки уларда бундай 'йиртқичлик хусусияти' йўқ".

"Уларда ўша ит бор" (that dog in them) ибораси кучли, аёвсиз интилишни англатувчи оммабоп жаргон ҳисобланади.

Ҳазил-мутойибаларга қарамай, СИ ходимлари ва тадқиқотчилари ўзлари яратаётган технология туғдирадиган реал, яқин орадаги хавф-хатарлардан хавотир билдиришмоқда.

"Мутахассислар ўртасидаги суҳбат анча нозик ва чуқурроқ бўлди, лекин аслида ҳамма кўриб чиқилиши ва олди олиниши керак бўлган жуда кўп турли хил хавф-хатарлар мавжудлигига қўшилади", деди Жаин.

Бу хавф-хатарлар қаторига фойдаланувчилар ва ҳакерларнинг СИ воситасининг хавфсизлик тўсиқларини бузиб ўтишига йўл қўймаслик киради. Шунингдек, СИ воситаларининг ҳарбий соҳада анча кенг қўлланилиши борасида ахлоқий хавотирлар кучаймоқда.

Нима учун СИ инсониятга таҳдид солиши мумкинлиги ҳақида хавотирлар бор ва улар қанчалик реал?

OpenAI хавфсизлик синови пайтида назоратдан чиқиб кетган ва Hugging Face стартапини бузиб кирган баъзи янги СИ моделлари устидан назоратни йўқотганидан кейин, бу муаммо ва саволлар СИ доираларида янги долзарблик касб этди.

Жаиннинг айтишича, ҳозирда СИ доираларида "яқин истиқболдаги реал зарарларни" яхшироқ тушуниш кераклиги ҳақида кенгроқ якдиллик мавжуд.

Шунингдек, янги моделларни баҳолаш учун СИ хавфсизлигини тадқиқ қилиш ташкилотларининг баҳоловчиларини йирик СИ лабораторияларига жалб қилиш кераклиги ҳақида ҳам келишув кучаймоқда. Буни Anthropic раҳбари Дарио Амодеи ва OpenAI раҳбари Сэм Альтман ҳам амалга оширишни режалаштираётганликларини айтишган.

Би-би-си суҳбатлашган бир нечта СИ ходимлари бундай хавфсизлик тадқиқотчиларининг СИ лабораториясига жалб қилингани ҳақида ҳали эшитмаганликларини айтишди.

Anthropic жума куни Faculty компаниясидан СИ баҳоловчиларини жалб қилишини эълон қилди.

Accenture ва Anthropic ҳам бизнес ҳамкорлар ҳисобланади.

Anthropic баҳоловчилар қачон келишини айтмади. Faculty вакили муддатлар ҳақидаги саволга изоҳ беришдан бош тортди.

На Anthropic, на OpenAI ташқи баҳоловчиларни қачон жалб қилишни режалаштираётгани ҳақидаги Би-би-си сўровига жавоб бермади.

OpenAI-Hugging Face воқеаси СИ соҳаси, шунингдек, онлайн тизимлари СИ хакерлигига заиф бўлиши мумкин бўлган компаниялар, тармоқлар ва ҳукуматлар учун "огоҳлантириш қўнғироғи" сифатида кенг қабул қилинди.

Аммо ҳозирда Nvidia томонидан деярли 13 миллиард долларга сотиб олиниши кутилаётган 200 нафар ходимга эга Hugging Face компанияси ҳам ушбу машҳур воқеага кинояли муносабатда бўлди.

У СИ ботларига сайтни тинч қўйишни ва хавфсизлик тажрибаларини бошқа жойда ўтказишни айтди.

"Ўша ерда юқори балларингизни қўлга киритинг, бизни бузиб киришга ҳожат йўқ", дейилади файлда.