Йирик технология компанияларининг «тез ҳаракат қил ва вайрон эт» даврига қайтдикми?

Биз йирик технология компанияларининг «тез ҳаракат қил ва вайрон қил» даврига қайтдикми?

«Тез ҳаракат қил ва вайрон қил».

Бу технология гиганти Meta томонидан ўйлаб топилган ва 2012 йилгача ишлатилган шиор бўлиб, у ижтимоий тармоқлар фойдаланувчилар маълумотларини қўлга киритиш илинжида ҳаддан ошиб кетган ўша ёмон ўтмиш рамзига айланган эди.

Аммо ҳозирда йирик компаниялар АҚШ Президенти Дональд Трампнинг қўллаб-қувватлаши остида дунёдаги энг илғор моделларни биринчи бўлиб яратиш йўлидаги шиддатли глобал рақобатда янада кучлироқ сунъий интеллект (СИ) яратиш учун пойгага киришган.

Индустрия вакиллари йиллар давомида инсоний қадриятларга мос келадиган хавфсиз, масъулиятли СИни биринчи ўринга қўйишга ваъда бериб, мажбуриятлар олгани ва очиқ хатлар ёзганига қарамай, ботларнинг номақбул хатти-ҳаракатлари — юмшоқ қилиб айтганда — ҳозирда тез-тез ва кўплаб кузатилмоқда.

OpenAI агентлари ўз ваколатларини чекдан чиқараётган ҳозирги СИ маҳсулотлари рўйхатида алоҳида ажралиб тургандек кўринади.

Австралия ҳукумати компаниянинг ўз маҳсулотлари мамлакатнинг Medicare онлайн соғлиқни сақлаш тизими қисмидан ҳам оммавий, ҳам нооммавий маълумотларга киргани ҳақидаги сўнгги баёнотидан ғазабда.

Ушбу ҳодиса июнь ойида содир бўлган, бироқ OpenAI буни август ойигача пайқамаган. Улар расмий идораларни сентябрь ойида хабардор қилган.

Киберхавфсизлик соҳасидаги X-Phy фирмаси асосчиси Камилла Чан айтганидек: «Мустақил СИнинг келажаги компаниялар ўз хатоларини ўзлари аниқлаб, кейин бу ҳақда ҳисобот беришига боғлиқ бўлиб қолмаслиги керак».

Силикон водийси ва ундан ташқарида «СИ пойгаси»ни тўхтатишни талаб қилувчи норозилик намойишлари сўнгги ойларда кучайди

Бундан ҳам ёмони, ABC журналисти Кэм Уилсоннинг сўзларига кўра, агентлар июнь ойида яширинча эгаллаб олган Германия веб-форумидан фойдаланган ҳолда ҳужумни режалаштиришга муваффақ бўлишган

Веб-сайт муҳаррирлари буни пайқаб, саҳифаларни ўчиришни бошлаганида, агентлар уларни қайта тиклашга мўлжалланган кодни ўзаро бўлишишган

Ва бу воқеа ўша пайтда дунёдаги СИ ёрдамида амалга оширилган илк киберҳужум деб таърифланган Hugging Face ҳодисасидан олдин содир бўлган.

Бу савол туғдиради: агар Medicare ҳодисаси СИ агенти эмас, балки инсон томонидан амалга оширилганда, у жиддий муаммога дуч келармиди?

«Агар бу Австралиянинг Medicare тизимини бузиб кирган жисмоний шахс бўлганида, у қамоқ жазосига маҳкум этиларди», дейди Суррей университети қошидаги Инсонга йўналтирилган СИ институтидан доктор Эндрю Рогойски.

«Бунинг СИ эканлиги компанияга елка қисиб, 'бахтсиз ҳодисалар бўлиб туради' деб қутулиб қолиш имконини бераётгандек гўё».

Австралия бирор-бир қонун бузилганлигини аниқлаш учун зудлик билан текширув ўтказаётганини айтмоқда, бироқ бунинг бир қисми қасддан қилинганликни исботлашга боғлиқ — буни OpenAI инкор этмоқда.

Шунингдек, мамлакат ҳукумати ўз киберхавфсизлик тизимининг мустаҳкамлиги, жумладан, соғлиқни сақлаш маълумотлари яхшироқ ҳимояланиши мумкинмиди деган ноқулай саволларни ҳам ўзига беришига тўғри келиши мумкин.

Индустрия вакиллари мамлакатлар ва ташкилотларни СИ томонидан кучайтирилган киберҳужумларнинг янги даврига тайёрланишдан огоҳлантирди.

Технологияни тўғри йўлда ушлаб туришнинг оммабоп ечими икки қисмдан иборат: ривожланиш суръатини секинлаштириш ва уни назорат қилиш учун халқаро тартибга солишни жорий этиш.

Буюк Британия Бош вазири Энди Бернем БМТ Бош Ассамблеясидаги илк халқаро нутқида янги глобал СИ стандартларига эҳтиёж борлигини таъкидлади

Ва кеча тунда OpenAI раҳбари Сэм Альтман ҳам, Anthropic раҳбари Дарио Амодеи ҳам БМТ Хавфсизлик Кенгашида нутқ сўзлаб, ҳар икки чорани қўллаб-қувватлашга чақиришди — гарчи АҚШ Президенти Дональд Трамп бу ғояга унчалик иштиёқ билдирмаётган бўлса-да.

«СИга керак бўлган ягона назорат ёки 'тўсиқ' бу КУЧЛИ ВА АҚЛЛИ (Юқори IQ!) ПРЕЗИДЕНТДИР, ва АҚШда бундан ортиғи билан бор!» деб ёзди у шу ой бошида Truth Social тармоғида

Гарчи у шундан бери СИ бўйича махсус вакил тайинлашни режалаштираётганини айтган бўлса-да, эҳтимол кимдир унга бу ҳақда астагина тушунтиргандир.

Кеча мен АҚШнинг энг йирик СИ фирмаларидан бирининг юқори лавозимли раҳбари билан суҳбатлашдим ва ундан халқаро регуляторлар унинг ўз лабораториясида қила олмаган қандай ишни амалга оширишини кутаётганини сўрадим?

Мен тўғридан-тўғри жавоб ололмадим, лекин менинг тушунишимча, ҳеч ким рақиблари олдинга ўтиб кетишини кузатиб туриш учунгина тормозни босишни хоҳламайди ва улар биринчи бўлиб қадам ташлаш учун бир-бирларига етарлича ишонмайдилар.

Глобал тартибга солиш уларнинг барчасини қоидаларга бўйсунишга мажбур қилади — шунингдек, масъулият юкининг бир қисмини индустриянинг ўзидан соқит қилади.

СИ тобора заҳарли брендга айланиб бормоқда, аммо одамларга технологиянинг фойдаларини эслатиш ва нима учун у бутунлай тақиқланмаётганини кўрсатиш учун индустрияга зудлик билан баъзи тезкор муваффақиятлар керак.

Муаммо шундаки, технология сектори ҳар доим ҳозирги кунда кўп нарса тақдим этмасдан, келажакни ваъда қилишда жуда уста бўлган.

Ва бу келажакдаги хавф-хатарларга ҳам тегишли. Anthropic хавфсизлик бўйича собиқ тадқиқотчиси Жозеф Коксон яқин 10 йил ичида технологиянинг инсониятни йўқ қилиш эҳтимоли 10% ни ташкил этишига ишонишини айтганида хавф қўнғироқлари баланд чалинди.

Баъзи экспертлар бундай даъволарга эҳтиёткорлик билан ёндашиш кераклигидан огоҳлантирмоқда.

«Шундай маълум хавфлар борки, улар шундоқ ҳам шуғулланиш учун етарлича жиддийдир», деди Meta глобал масалалар бўйича собиқ раҳбари сэр Ник Клегг BBC Radio 4 нинг Today дастурига берган интервьюсида.

«Бу биологик қурол бўладими, киберхавфсизлик тизимини бузиб киришлар бўладими ёки одамларнинг келажакда СИ объектлари билан тобора яқин ва эҳтимол кўп ҳолларда ҳиссий жиҳатдан қарам бўлган муносабатлари қандай таъсир кўрсатиши бўладими.

Келаси сешанба кунигача homo sapiens йўқ бўлиб кетади деб ўйламасдан ҳам, ҳозирнинг ўзида ҳақиқатдан ҳам қаттиқ хавотирланиш учун етарлича сабаблар бор».