Сунъий интеллект бўйича ички манбаларнинг кескин огоҳлантиришлари Кремний водийсидаги баъзилар томонидан жиддий қабул қилинмади

Сунъий интеллект (СИ) борасидаги инсайдерларнинг драматик огоҳлантиришлари Кремний водийсидаги баъзилар томонидан совуқ кутиб олинди

Ҳар сентябрь ойида Кремний водийсининг етакчи раҳбарлари Сан-Францискодаги Palace меҳмонхонасида Goldman Sachs томонидан ташкил этилган конференцияда инвесторларни жалб қилиш учун йиғиладилар.

Бу ҳафта ўсиш ва эҳтимолий даромадлар муҳокамаси фонида, технология етакчилари Anthropic тадқиқотчиси Жейкоб Коксоннинг тўсатдан истеъфога чиққанига ҳам тўхталиб ўтишларига тўғри келди.

Илгари OpenAI компаниясида ишлаб, кейинроқ унинг асосий рақобатчиси Anthropic'га ўтган 27 ёшли Коксон сешанба куни сунъий интеллектни ишлаб чиқаётган одамлар ушбу технология инсониятни йўқ қилиб юбориши мумкинлигига ишонишини айтди.

Улар "ҳаётимиз билан қимор ўйнашмоқда", деди у ва қўшимча қилди: "яқин орада булар ҳар қандай нарсани бузиб кира оладиган ўта инсоний тизимларга айланади".

Коксон жамоатчиликни огоҳлантирган биринчи СИ инсайдери эмас. Сўнгги йилларда Anthropic ва OpenAI компанияларидан хавфсизлик билан боғлиқ хавотирлар туфайли бир қатор таниқли ходимлар кетди ва Anthropic'нинг баъзи амалдаги ходимлари ҳатто Коксоннинг сўзларини такрорлашди.

"Биз ҳақиқатан ҳам СИ барча инсонларни ўлдириши мумкинлигига чин дилдан ишонамиз! Шахсан мен кейинги ўн йилликда бунинг эҳтимолини >10% деб ҳисоблайман", деб ёзди Anthropic жамоаси раҳбари Эван Хубингер X тармоғида.

Коксон ўз постларида огоҳлантиришлари "маркетинг эмас"лигини очиқ айтган бўлса-да, Кремний водийсининг баъзи раҳбарлари ва инвесторлари инсайдерларнинг сўнгги огоҳлантириш тўлқинига шубҳа билан қарашди.

Anthropic ва OpenAI рекорд даражадаги дастлабки оммавий таклифларга (IPO) тайёргарлик кўраётгани айтилмоқда ва технология соҳасидаги баъзилар СИ хавф-хатарлари ҳақидаги сўнгги кескин огоҳлантиришлар ушбу маҳсулотларнинг кучини бўрттириб кўрсатиш орқали шов-шув (хайп) яратишга қаратилган бўлиши мумкинлигини таъкидлашмоқда.

Anthropic раҳбари Дарио Амодеи СИ оддий интеллектуал иш ўринларининг ярмини йўқ қилиши ва "бизнинг тур сифатида кимлигимизни синовдан ўтказиши" ҳақидаги гаплари учун танқидга учради.

Конференция маърузачиларидан бири, Grindr бош директори Жорж Арисон BBC'га берган интервьюсида Коксон ва бошқаларнинг бу ҳафтадаги фикрлари "Антҳропис'даги антицивилизацион дунёқарашни" акс эттиришини айтди.

У бу фикрларни "хавфли" деб атади ва бу унга LGBTQ+ танишув иловасидаги баъзи муҳандисларга Anthropic технологиясидан фойдаланишни тўхтатишни айтишига сабаб бўлганини билдирди.

"Акциядорларимиз пулларининг ишончли вакиллари сифатида, оммавий баёнотлари нуқтаи назаридан шундай ишларни қилаётган бизнесга таянишимиз масъулиятсизликдир", деди у.

"Балки улар бунга ҳақиқатан ҳам ишонишар", деди Арисон. "Ёки буни инвесторларнинг кўпроқ қўллаб-қувватлашини таъминлашнинг ажойиб усули бўлгани учун айтишмоқда, деб баҳслашиш мумкин, чунки бу баҳолашларни оқлашнинг ягона йўли: 'Мен ҳар бир соҳани эгаллаб оламан ва ҳар бир иш ўрнини эгаллайман, ва менинг СИ'им бутун ишни бажаради' деб даъво қилишдир".

Anthropic шу йил бошида ўтказилган сўнгги маблағ йиғиш босқичида 965 миллиард долларга (713 миллиард фунт стерлинг) баҳоланган эди.

BBC Anthropic компаниясидан ушбу фикрларга муносабат билдиришни сўради.

Шанба куни эрталаб эълон қилинган эссесида Амодеи СИ моделларини ишлаб чиқишни секинлаштиришга ва глобал тартибга солишга чақириб, СИ билан боғлиқ хавфлар "жиддий" эканини айтди.

Nvidia раҳбари Женсен Хуанг ҳам конференция аудиторияси олдида Коксоннинг фикрларини муҳокама қилди, деб хабар берди гуруҳдаги бир неча киши BBC'га. Уларнинг айтишича, у бу фикрларни ёлғон деб рад этган.

Хуанг илгари СИ "инсониятнинг охири бўлади" деган ғояни "мутлақо бемаънилик" деб атаган эди.

Ва гарчи у СИ бумидан тижорат манфаатдор бўлса-да — Nvidia СИ тизимларини ишлатадиган чиплар ишлаб чиқаради — унинг фикрлари Кремний водийсида амалдаги ва собиқ ходимларнинг экзистенциал огоҳлантиришларига қарши кучайиб бораётган норозиликни акс эттиради.

Баъзи танқидчилар ҳатто Anthropic'ни рақобатчиларни сиқиб чиқарадиган ва у билан OpenAI'га соҳада монополия қолдирадиган тартибга солишни келтириб чиқариш умидида ваҳима тарқатишда айблашди.

Altimeter Capital инвестиция фирмаси раҳбари Брэд Герстнер конференциядан Хуангнинг суратларини жойлаштирди ва Коксонни "кулгили муболаға"да айблади.

Жума куни Hugging Face бош директори Клемент Деланг ҳам ўз фикрини билдирди. Ўтган ҳафта Nvidia сотиб олишини эълон қилган Hugging Face шу йил бошида OpenAI агентлари томонидан бузиб кирилган эди, бу эса СИ хавфсизлиги бўйича норозиликка сабаб бўлганди.

"Узр, лекин Жейкобдан СИнинг йўқ бўлиб кетиш хавфи ҳақида сўраш, кондиционер устасидан иқлим ўзгариши ҳақида сўраш билан баробар", деб ёзди у X тармоғида. "Бу албатта қизиқарли эмас ёки нотўғри демоқчи эмасман, лекин келинг, нарсаларга реал қарайлик".

Герстнер ҳам, Деланг ҳам шанба куни Амодеининг таклифи эълон қилинганидан кейин вазминроқ муносабат билдиришди, Герстнер буни тезлик ва хавфсизлик каби рақобатдош устуворликларни мувозанатлашда "олдинга ташланган муҳим қадам" деб атади.

Деланг Амодеи таклиф қилган эҳтимолий ечимларга ҳисса қўшишга ёрдам беришни таклиф қилди.

Апрель ойида Anthropic ўз Mythos воситаси баъзи хакерлик ва киберхавфсизлик вазифаларида инсонлардан устун келиши мумкинлигини аниқлаганини айтганида, СИ соҳасини ҳаяжонга солган эди.

Mythos шунингдек, "қумдон" (sandbox) деб аталадиган муҳитдан мустақил равишда чиқиб кетиш қобилиятини намойиш этди, бу эса тартибга солувчилар, қонун чиқарувчилар ва корхоналар ўртасида СИнинг эҳтимолий хавфлари ҳақида баҳс-мунозараларга сабаб бўлди.

Пайшанба куни янги ривожланишда Anthropic ўз СИ технологиясидан биоқурол ишлаб чиқиш ва кибер-жосуслик каби фаолиятлар учун фойдаланишга уринган хавфли кучларни аниқлагани ва тўхтатганини айтди.

Palace меҳмонхонасининг витраж гумбазли атриумидаги порлоқ қандиллар остида баъзи инвесторлар BBC'га Коксон ва шунга ўхшаш бошқаларнинг фикрлари ҳукуматнинг чораларини тезлаштириши мумкинлигини айтишди.

Шу ойда Вермонт штатидан чап қанот сенатори Берни Сандерс ҳаммуаллифлигида тақдим этилган "Сунъий суперинтеллектни тақиқлаш тўғрисида"ги федерал қонун лойиҳаси илғор СИ ривожланишини вақтинчалик тўхтатишни назарда тутади.

"Инсонлар СИ устидан назоратни йўқотиши эҳтимоли катта", деди Сандерс пайшанба куни BBC'нинг Newsnight дастурига. "Ва ундан кейин нима бўлишини ҳеч ким билмайди. Лекин бу ҳалокатли бўлиши мумкинми? Ҳа, бўлиши мумкин".

"Олимлар сизга бу инсониятга ҳалокатли таъсир кўрсатиши мумкинлигини айтганда, 'уни секинлаштиринг' демаслик учун аҳмоқ бўлиш керак", дея қўшимча қилди у.

Агар бутун соҳа бўйлаб ҳукумат чоралари кўрилса, бу СИнинг чекланмаган ривожланиши сиёсатини кенг қўллаб-қувватлайдиган Трамп маъмурияти эмас, балки қонун чиқарувчилар томонидан амалга оширилиши эҳтимоли кўпроқ. У буни АҚШ Хитойга устунликни бой бермаслигини таъминлаш учун зарур деб тақдим этди.

Бу ҳафта журналистлар билан суҳбатда президент Дональд Трампдан СИ инсониятнинг йўқ бўлиб кетишига сабаб бўлишидан хавотир бор-йўқлиги сўралди. "Йўқ, менда ҳеч қандай хавотир йўқ", деди у. "Агар биз СИда ғалаба қозонмасак, жуда ёмон аҳволга тушиб қолишимиздан хавотирдаман. Биз ҳозирда Хитойдан олдиндамиз".

Аммо президентнинг Anthropic билан муносабатлари таранг бўлган. Компания АҚШ ҳарбийларига ўз СИ моделларидан фойдаланишга рухсат беришдан бош тортганидан сўнг, Оқ уй уни "радикал чап, воук (woke) компания" деб атади ва уни таъминот занжири хавфи деб белгилади, бу қарорни федерал судья ноқонуний деб топди.

Трамп маъмуриятининг дастлабки кунларида унинг СИ бўйича вакили бўлган Дэвид Сакс ҳам Anthropic'га бир неча бор ҳужум қилган.

OpenAI Оқ уй томонидан бундай даражадаги текширувга дуч келмади. Ўтган ҳафта Astra деб номланган янги моделни тақдим этар экан, OpenAI президенти Грег Брокман компаниянинг Трамп маъмурияти билан муносабатларини "жуда яхши шериклик" деб таърифлади.

Июнь ойида фонд бозорига чиқишини айтган OpenAI яқинда 852 миллиард долларга баҳоланган эди.

Компания BBC'нинг изоҳ сўровига жавоб бермади.

Сан-Францискодаги бу ҳафтаги конференцияда бойлик ортидан қувиш ҳар қандай кучайиб бораётган экзистенциал хавотирлар ёки СИга нисбатан эҳтимолий ҳукумат чекловлари қўрқувидан устун тургандек туюлди.

Инвесторлардан бири Anthropic'нинг яқинлашиб келаётган S-1 ҳужжатини — компаниялар акцияларни сотиш учун қимматли қоғозларни тартибга солувчиларга топшириши керак бўлган аризани интиқлик билан кутаётганини айтди.

Унинг компания ҳақидаги асосий саволи оддий эди: у фойдалими?

Пайшанба куни дунёнинг охири келишидан қўрқасизми деб сўралганда, ўша куни конференцияда Nvidia билан шартнома имзолаган d-Matrix чип компанияси бош директори Сид Шет кескин жавоб берди.

"Йўқ", деди у.