Anthropic раҳбари Дарио Амодеи СИ ривожланишини секинлаштиришга чақирди

Anthropic раҳбари Дарио Амодеи СИ ривожланишини секинлаштиришга чақирмоқда

Anthropic раҳбари Дарио Амодеи СИни ривожлантиришдан бошқа муқобил йўл йўқлигини айтди

Йирик Anthropic СИ компанияси раҳбари сунъий интеллект моделларини ишлаб чиқишни секинлаштиришга ва қатъий назорат остида ушлаб туришга чақирди.

*We Must Pace the Frontier* («Биз чегара суръатини белгилашимиз керак») номли эссесида Дарио Амодеи СИнинг ривожланиши муҳокама қилинмаслигини, бироқ у билан боғлиқ хавф-хатарлар «жиддий» эканини ва компаниялар ҳамда ҳукуматларга уларни бартараф этиш учун вақт кераклигини айтди.

У уч қисмдан иборат режани баён қилди, унга кўра СИ моделларини ишлаб чиқиш жараёнида мустақил назорат ўрнатиш, соҳани тартибга солиш ва глобал тартибга солиш кўзда тутилган.

Сўнгги пайтларда ушбу технологиянинг эҳтимолий хавф-хатарлари ҳақида хавотирлар кучаймоқда — уларнинг энг жиддийсида яқин ўн йил ичида унинг «барча инсонларни ҳалок қилиши» эҳтимоли 10 фоиздан юқори экани айтилади.

Бундан олдин Anthropic ўз СИ моделидан биологик қурол яратишга ёрдам берадиган «ғаразли мақсадларда» фойдаланишга бўлган уринишларни аниқлагани ва тўхтатганини маълум қилган эди.

Бироқ энг жиддий огоҳлантириш Anthropic хавфсизлик гуруҳининг икки аъзосидан келди, улар ўтган икки ҳафта ичида истеъфога чиқиб, инсоният СИ компаниялари ўртасидаги одамлардан ақллироқ машиналар яратиш пойгасидан омон қолмаслиги мумкинлигини айтишди.

Ушбу огоҳлантиришлар чора кўришга чақириқларга сабаб бўлди, аммо АҚШ Президенти Дональд Трамп ҳозиргача бундай хавотирларни рад этиб, пайшанба куни «агар биз СИ соҳасида ғалаба қозонмасак, жуда ёмон аҳволга тушиб қоламиз» деб хавотирланаётганини айтди.

Ўз эссесида Амодеи СИ «ҳаддан ташқари тез» ривожланганини, жумладан, унинг «кейинги авлод СИни яратиш қобилияти» ошганини таъкидлади — ва рақиб OpenAI билан боғлиқ воқеани эслатди, унда июль ойида агентлар ўзларига ҳужум қилиш буюрилмаган нишонларга киберҳужумлар уюштиргани маълум бўлган эди.

OpenAI агентлари «аслида мутаассиблик билан содиқ бўлган жамоа сифатида ҳаракат қилишган», деди Амодеи.

Ушбу воқеага жавобан OpenAI «агентлараро алоқа фаолиятининг аҳамияти раҳбарларга июль ойигача аён бўлмаганини» ва натижада баъзи илғор СИ моделлари ва воситаларини ўқитишни секинлаштираётганини маълум қилиб, СИ воситаларининг назоратдан чиқиб кетиш хавфи эндиликда ошганини қайд этди.

Ўз эссесида Амодеи «СИни унинг фойдаларига эришиш билан бирга хавфсизлигини таъминлашга қаратилган мувозанатли суръатда яратишга» чақирди.

Бу «моделларни ўқитишни ёки технологик тараққиётни тўхтатишни англатмайди, балки компаниялар ўз моделларини мувофиқлаштириш ва ҳимоя қилиш учун етарли вақт ажратишини ҳамда учинчи томон баҳоловчилари буни тасдиқлашини таъминлашни» англатади.

Унинг айтишича, Anthropic бунга «бир томонлама» содиқ қолмоқда ва ҳукуматларни «бошқа етакчи компаниялардан ҳам шуни талаб қилишга» ундамоқда.

Ўз блогида у тартибга солиш СИ билан ҳамқадам бўла олмаслиги мумкинлигини тан олди ва шу сабабли СИ компанияларини тартибга солиш билан бирга «стандартларни белгилаш учун ихтиёрий равишда биргаликда ишлашга» чақирди.

Anthropic бош директори, шунингдек, секинлашув соҳага ва бутун дунёдаги, айниқса Хитойдаги етакчи дастурчилар билан рақобатга қандай таъсир қилиши масаласига ҳам тўхталди.

«Ишонаманки, агар секинлашиш бизга моделлар критик қобилият даражасига етгунга қадар қўшимча бир ёки икки йил вақт берса ва биз бу вақтдан мувофиқликни ошириш учун фойдалансак, нимадир жиддий хато кетиши хавфини сезиларли даражада камайтиришимиз мумкин», деди Амодеи.

Унинг сўзларига кўра, бу «тижорат устунлигини ёки АҚШнинг СИ соҳасидаги етакчилигини қурбон қилмасдан» мувофиқлаштирилган тарзда амалга оширилиши керак. Ҳар қандай секинлашув Хитойнинг олдинга ўтиб кетишига йўл қўймаслик учун чекланган бўлиши керак, деди у.

У АҚШ ҳукуматини АҚШ компанияларининг СИ чиплари Хитойга сотилмаслигини ёки ушбу технологиянинг авторитар давлатлар билан баҳам кўрилмаслигини таъминлаш учун чоралар кўришга чақирди.