Энг кучли СИ (сунъий интеллект) учун пойга секинлашиши мумкин. Бундан ким манфаатдор ва энг йирик дастурчилар нимани режалаштирмоқда?
Энг кучли СИ (сунъий интеллект) яратиш пойгаси секинлашиши мумкин. Бундан ким манфаатдор ва энг йирик дастурчилар нималарни режалаштирмоқда?
Илғор сунъий интеллект яратувчи энг йирик компаниялар раҳбарлари деярли бир вақтда тобора кучлироқ моделлар учун мусобақани секинлаштириш зарурлиги ҳақида гапира бошладилар. Биринчи бўлиб аниқ таклиф билан Claude дастурчиси — Anthropic раҳбари Дарио Амодеи чиқди, бироқ тез орада уни OpenAI, Google DeepMind ва xAI раҳбарлари ҳам қўллаб-қувватладилар. Шу билан бирга, ушбу компанияларнинг баъзилари оммавий баёнотлардан олдин ҳам СИ ривожланишини назорат қилишнинг умумий механизмини яратишни муҳокама қилганликлари маълум бўлди.
12 сентябрь куни Амодеи ишланмаларни тўхтатишни эмас, балки уларнинг суръатини эҳтиёткорроқ қилишни таклиф этди.
У компанияларни мустақил баҳоловчиларга ички жараёнлардан доимий фойдаланиш имкониятини беришга, хавфсизликнинг умумий стандартларини келишиб олишга ва истиқболда халқаро мувофиқлаштиришга эришишга чақирди. Ўша даврда Сэм Альтман «суръатни пасайтириш» зарурлигига рози эканлигини билдирди, Илон Маск эса Anthropic таклифини қўллаб-қувватлади. Google DeepMind раҳбари Демис Хассабис ҳам бу ғояни ижобий баҳолади.
Эътиборлиси, бу ташаббус энг кучли моделларни яратишда етакчилик учун тўғридан-тўғри рақобатлашаётган компаниялар томонидан илгари сурилди. Шу боис савол туғилади: бу умумий таҳдид қаршисида қарашларнинг камдан-кам учрайдиган мос келишиними ёки пойганинг асосий иштирокчилари ўртасидаги янада яқинроқ мувофиқлаштиришнинг бошланишими?
Энг қизиқарли тафсилот оммавий баёнотларда эмас, балки дастлабки музокаралар ҳақидаги хабарларда пайдо бўлди. The Washington Post нашрининг ёзишича, Anthropic, OpenAI ва Google Амодеининг оммавий чақириғидан олдин ҳам СИ хавфсизлиги стандартларини белгилаши мумкин бўлган янги тармоқ ташкилотини яратишни муҳокама қилишган.
Бундай механизм ғояси илгари, жумладан, Хассабис томонидан ҳам илгари сурилган эди.
Альтманнинг ўзи ҳам ҳозирги баёнотлар тўлқинидан олдин энг йирик дастурчилар ўртасида ихтиёрий келишув имконияти ҳақида гапиргани диққатга сазовордир. Сўнгги кунларда у OpenAI ташқи баҳоловчилар билан ишлашга тайёрлигини ҳам тасдиқлади. Эслатиб ўтамиз, OpenAI бошқа етакчи компаниялар билан ишланмаларни секинлаштириш ва хавфсизликни ошириш чораларини келишиб олиши мумкин.
Компанияларда хавотир учун жуда аниқ сабаблар бор. Замонавий СИ-агентлар аллақачон мустақил равишда ҳаракатлар занжирини бажаришни, интернет билан ишлашни ва оддий чат-бот доирасидан анча четга чиқишга имкон берувчи воситалардан фойдаланишни биладилар.
Энг эътиборга лойиқ воқеалардан бири OpenAI компаниясининг Hugging Face платформаси билан содир бўлган ҳодисаси бўлди. Синовлар пайтида СИ-агентлар тест муҳитидан ташқарига чиқиб, интернетга уландилар ва тестдан ўтиш учун зарур бўлган маълумотларни олишга уриниб, сервис инфратузилмасини бузиб кирдилар.
Амодеи бу ҳолатни бир марталик хато эмас, балки СИ имкониятларининг ривожланиши дастурчиларнинг уларнинг хулқ-атворини назорат қилиш қобилиятидан ўзиб кета бошлаши мумкинлиги ҳақидаги огоҳлантириш деб ҳисоблайди. Унинг баҳолашича, ҳозирги суръатлар сақланиб қолса, 6–12 ойдан кейин янада кучли тизимлар потенциал равишда юзлаб миллиард долларлик зарар етказиши мумкин.
Ушбу фонда бу каби ҳодисаларнинг умумий сони ҳам ортиб бормоқда. Аввалроқ автоном тизимлар кўрсатмаларни бузган, чекловларни айланиб ўтишга уринган ёки дастлабки мақсадларга зид равишда ҳаракат қилган ҳолатлар кескин кўпайгани хабар қилинган эди.
Бу тенденция қаттиқроқ назорат тарафдорларининг далилларидан бирига айланди.
Бироқ ҳозирги вазият икки-уч йил олдинги мунозаралардан фарқ қилади. Илгари СИ ривожланишини секинлаштириш чақириқларини келажакдаги тизимларнинг эҳтимолий хавф-хатарлари ҳақидаги баҳс сифатида қабул қилиш мумкин эди. Эндиликда дастурчилар аллақачон мавжуд бўлган автоном агентларнинг хулқ-атворини муҳокама қилмоқдалар ва ҳаракатларни мустақил равишда режалаштириш ҳамда бажаришга қодир моделларни қандай назорат қилишни тушунишга ҳаракат қилмоқдалар.
Энг йирик компаниялар ҳақиқатан ҳам СИ ривожланиши жуда тез кетаётганидан хавотирда бўлишлари мумкин. Аммо шу билан бирга, ривожланишнинг умумий суръати бўйича келишув рақобат муҳитининг ўзини ўзгартиришга қодир.
Эксперт Венкатеш Рао фикрича, агар етакчи компаниялар бир вақтнинг ўзида моделлар имкониятларини маълум бир даражадан тезроқ оширмасликка рози бўлишса, уларга ўқитиш ва инфратузилма харажатларини назорат қилиш осонроқ бўлади, янги иштирокчиларга эса технологик фарқни кескин қисқартириш қийинроқ бўлади.
Бундан ташқари, энг йирик компанияларнинг ўзлари ривожланишнинг мақбул тезлиги ва хавфсизликнинг етарли даражаси деб ҳисобланиши керак бўлган мезонларни белгилашда иштирок этиш имкониятига эга бўладилар.
Айнан шунинг учун хавфсизлик бўйича тармоқ органи ғояси турлича муносабатларга сабаб бўлмоқда. Бир томондан, мустақил назорат компанияларни ўз ваъдалари учун жавоб беришга мажбур қилиши мумкин. Амодеи ташқи баҳоловчиларга Anthropic иш жараёнларидан фойдаланиш имкониятини беришни таклиф қилмоқда, бу эса уларга амалда хавфларни баҳолаш бўйича ички мутахассислар ваколатлари билан тенг ваколатларни беради. Иккинчи томондан, энг йирик дастурчиларнинг ўзлари томонидан ишлаб чиқилган қоидалар уларнинг кичикроқ рақобатчилардан устунлигини потенциал равишда мустаҳкамлаши мумкин.
Шу тариқа, хавфсизлик ҳақидаги суҳбат бир вақтнинг ўзида илғор СИ ривожланиши қоидаларини ким белгилаши ҳақидаги суҳбатга айланади.
Айнан шу ерда глобал секинлашув ғояси геосиёсий зиддиятга дуч келади. Амодеи Хитойнинг СИ соҳасидаги етакчилиги АҚШ ва дунё учун жиддий таҳдид солиши мумкинлигидан огоҳлантиради, шу боис Американинг технологик устунлигини ҳамда Хитойга илғор чиплар ва ускуналар етказиб беришга чекловларни сақлаб қолишни таклиф қилади.
Шу билан бирга, Anthropic раҳбари тан олади: Пекин билан ҳамкорликсиз глобал секинлашувга эришиб бўлмайди. Унинг концепциясига кўра, Хитой СИ хавфсизлиги бўйича халқаро келишувларда иштирок этиши керак. Па Paradox (зиддият) юзага келади: АҚШ Хитой билан СИнинг хавфсиз ривожланиши қоидалари бўйича келишиб олмоқчи, шу билан бирга унинг асосий технологиялардан фойдаланишини чекламоқда. Asia Society таҳлилчиси Лицзи Ли буни ушбу моделнинг асосий зиддиятларидан бири деб атайди.
Пекинда Амодеининг ташаббуси аллақачон технологик жиловлашга уриниш сифатида қабул қилинди. ХХР ТИВ вакили «қўрқитиш, қарама-қаршилик ва зарарли рақобат» СИнинг глобал бошқарувига халақит беришини айтди, давлатга қарашли Global Times нашри эса Anthropic раҳбарининг таклифларини AI-индустрияси учун «совуқ уруш дарслиги» деб атади.
Ишончсизлик ўзаро айбловлар билан янада кучаймоқда. Америка махсус хизматлари эссе эълон қилинишидан сал олдин хитойлик дастурчиларни Американинг илғор моделларидан имкониятларни ўзлаштиришда айблади, Пекин эса бу даъволарни рад этди ва Вашингтон СИ бозорида монополия ўрнатишга интилаётганини билдирди. Шу билан бирга, Хитой расмийларининг ўзлари ҳам хорижий тизимлар томонидан таҳдидлар борлигидан огоҳлантирмоқдалар: ХХР Давлат хавфсизлиги вазирлиги раҳбари Чэнь Исинь душман кучлар қўлидаги СИ мамлакатнинг сиёсий ва ахборот хавфсизлигига таҳдид солиши мумкинлигини айтди.
Ва бу ерда СИ-компаниялари раҳбарларининг позицияси Америка маъмурияти сиёсати билан тўғридан-тўғри зид келади.
АҚШ Президенти Дональд Трамп 13 сентябрь куни СИ ривожланишини сезиларли даражада секинлаштириш кераклиги ҳақидаги ғояни рад этди.
У АҚШ Хитойдан олдинда эканлигини ва бу устунликни сақлаб қолиши кераклигини айтди, чунки «ким СИда ғалаба қозонса, ўша ҳамма нарсада ғолиб бўлади». Шу билан бирга, Трамп муайян чекловлар жорий этилиши имкониятини истисно қилмади, бироқ СИ атрофидаги ҳозирги хавотирларнинг катта қисмини бўрттирилган деб атади.
Шу тариқа, АҚШнинг ўзида иккита қарама-қарши мантиқ шаклланди.
Амодеи амалда ушбу дилемма мавжудлигини тан олади. CBS телеканалига берган интервьюсида у Америка ва Хитой компаниялари ўртасидаги рақобатни «тезлик лимити» яратишдаги энг мураккаб масала деб атади ва унинг бажарилишини таъминлаш умуман мумкинлигига ишончи комил эмаслигини тан олди.
Ҳозирча энг йирик СИ-компаниялари раҳбарлари яширин келишувга эришган деб даъво қилишга асослар йўқ. Аммо мувофиқлаштириш масаласини тўлиқ асосли қиладиган фактлар мавжуд: бир нечта рақобатчи компаниялар хавфсизлик бўйича умумий органни олдиндан муҳокама қилишган, кейин уларнинг раҳбарлари деярли бир вақтда секинлашиш ғоясини қўллаб-қувватлашган, таклифларнинг ўзи эса нафақат ички хавфсизлик чораларини, балки бутун тармоқ учун жамоавий қоидаларни ҳам назарда тутади.
Ҳозирги вақтда воқеалар ривожининг бир нечта эҳтимолий сценарийларини ажратиб кўрсатиш мумкин.
Биринчиси — реал мувофиқлаштириш. Энг йирик дастурчилар ҳақиқатан ҳам СИ ривожланиш суръатлари ва ягона хавфсизлик талаблари тўғрисидаги яширин ёки расмий келишув сари ҳаракат қилишлари мумкин. Anthropic, OpenAI ва Google компанияларининг умумий тармоқ органини яратиш бўйича дастлабки музокаралари рақобатчилар ўртасидаги алоқалар секинлашишга доир оммавий чақириқлардан олдин бошланганини кўрсатади. Агар бу жараён давом этса, ҳозирги баёнотлар бутун тармоқ учун янги қоидаларни шакллантиришнинг биринчи босқичи бўлиши мумкин.
Иккинчиси — мажбурий сулҳ. Компаниялар автоном тизимлар уларни назорат қилиш усулларидан кўра тезроқ ривожланаётгани ҳақидаги хулосага келган бўлишлари мумкин ва шу боис вақтинчалик умумий чекловлардан манфаатдор. Бу ҳолатда гап рақобатни тўхтатиш ҳақида эмас, балки минимал хавфсизлик даражаси бўйича келишиб олишга уриниш ҳақида боради, шундан сўнг пойга давом этади.
Учинчиси — ўйин қоидалари учун кураш. Секинлашиш чақириқлари бир вақтнинг ўзида келажакда айнан қандай чекловлар пайдо бўлишига таъсир кўрсатиш усули бўлиши мумкин. Агар энг йирик дастурчилар стандартларни яратишда асосий ролни қўлга киритсалар, улар ўз рақобатчилари ишлайдиган шароитларга ҳам таъсир кўрсата оладилар. Унда СИ хавфсизлиги ҳақидаги мунозара келажакдаги бозор устидан назорат учун курашга ҳам айланади.
Шу билан бирга, ушбу талқинлар бир-бирини истисно қилмайди. Компаниялар бир вақтнинг ўзида СИ тезлашишидан ҳақиқатан ҳам хавотирда бўлишлари, минимал хавфсизлик қоидалари бўйича келишиб олишлари ва бу қоидалар қандай кўринишда бўлишига таъсир ўтказишга интилишлари мумкин.
Ҳозирча ушбу сценарийларнинг бирортасини ҳам исботланган деб ҳисоблаб бўлмайди. Аммо бошқа нарса аллақачон аниқ: энг йирик дастурчилар биринчи марта СИ хавфи ҳақидаги якка тартибдаги огоҳлантиришлардан унинг ривожланишининг жамоавий қоидалари ҳақидаги суҳбатга шу қадар сезиларли даражада ўтмоқдалар.