OpenAI ва Anthropic раҳбарлари БМТни СИ бўйича глобал шартларни ишлаб чиқишга ундамоқда

OpenAI ва Anthropic раҳбарлари БМТни сунъий интеллект бўйича глобал қоидаларни белгилашга чақирмоқда

OpenAI, Anthropic ва Hugging Face раҳбарлари БМТга сунъий интеллект (СИ) ривожланишининг ҳозирги суръати ва унинг жамиятга соладиган хавф-хатарлари глобал миқёсда халқаро мувофиқлаштиришни талаб қилишини айтишди.

Альтман хавфларни баҳолаш бўйича умумий стандартлар яратишга чақирди, OpenAI компаниясининг асосий рақобатчиси бўлган Anthropic раҳбари Дарио Амодеи ва Hugging Face раҳбари Клемент Деланг ҳам шундай фикр билдирди.

Шу ой бошида Амодеи эссе эълон қилди, унда технологиянинг инсониятга таҳдиди ҳақидаги хавотирлар туфайли СИ ривожланишини секинлаштиришга чақирилган ва бу чақириқ Альтман ҳамда бошқалар томонидан олқишланган эди.

Бироқ, худди шу БМТ конференциясида АҚШ Президенти Дональд Трампнинг технологиялар бўйича асосий маслаҳатчиси СИни тартибга солишнинг ҳар қандай янги шакли ғоясини рад этди.

Uber компаниясининг собиқ раҳбари Майкл Крациос СИ ривожланиши тезлашаётганини ва бу технология хавф-хатарлар туғдиришини тан олди, аммо БМТга бу "ривожланишни тўхтатиб туриш ёки уни янги глобал бошқарув тузилмалари билан чеклаш" учун етарли сабаб эмаслигини айтди.

"Ушбу ва бошқа форумлардаги халқаро мулоқотнинг глобал бошқарув томон оғиб кетишига йўл қўйиб бўлмайди", дея қўшимча қилди Крациос.

OpenAI раҳбари Сэм Альтман ва СИ соҳасидаги бошқа бош директорлар чоршанба куни БМТдаги чиқишларида бунга қарама-қарши позицияни эгаллашди.

"Агар СИ демократик бўлиши керак бўлса, энг муҳим қарорлар фақат Сан-Францискодаги лабораториялар томонидан қабул қилиниши мумкин эмас", деди Альтман.

У БМТга мамлакатлар "кучли янги технология қаршисида умумий манфаатлар йўлида" биргаликда ишлашни бошлашини исташини айтди.

У СИ воситасининг имкониятларини қандай ўлчаш, тегишли хавфларни баҳолаш, СИ хавфсизлик чораларини қўллаш ва бундай воситалар устидан инсон назорати қай даражада сақланиб қолишини аниқлаш бўйича "миллий ва халқаро" СИ стандартларини яратишга чақирди.

Шунингдек, у "ҳодисалар ҳақида тезкор хабар бериш, таснифлаш ва ҳисобот бериш протоколларини жорий этишга чақирди, токи дунё муваффақиятсизликлар фалокатга айланишидан олдин улардан сабоқ олиши мумкин бўлсин."

"Бизга умумий стандартлар керак, токи мамлакатлар далилларни солиштириши, талабларга риоя этилишини текшириши ҳамда нима содир бўлаётгани ҳақида ягона тил ва тушунчага эга бўлиши лозим", дея қўшимча қилди Альтман.

Anthropic раҳбари Амодеи ва Hugging Face раҳбари Деланг ҳам ўз нутқларида шунга ўхшаш фикрларни билдиришди.

Амодеининг айтишича, СИ "агар нотўғри бошқарилса... умуман инсоният учун хавф туғдириши мумкин."

У СИ воситаларини янада ривожлантириш "хавфсизликнинг янада қатъий стандартларини" талаб қилишини қўшимча қилди.

"Биз чиқараётган ҳар бир кейинги СИ технологияси ҳақиқатан ҳам хавфсиз эканлигига ишонч ҳосил қилиш учун зарур бўлган даражада секинлашамиз", дея қўшимча қилди Амодеи.

"Аммо биз нима қилишимиздан қатъи назар, бу хавфларни бошқариш пировардида исталган битта компаниядан кўра каттароқ масаладир ва у бутун тармоқ ҳамда глобал миқёсга эга."

Hugging Face раҳбари Деланг шундай деди: "Глобал ҳамжамиятга мониторинг ва ҳодисаларни ошкор қилиш бўйича кучлироқ стандартлар керак."

Уччала раҳбар ҳам АҚШда фаолият юритади ва СИ технологиясини ривожлантириш билан бевосита шуғулланади.

СИ дастурчилари учун платформа бўлган Hugging Face яқинда OpenAI томонидан яратилган ва маълум даражада автоном ишлайдиган СИ агентлари ёки СИ ботлари томонидан ҳакерлик ҳужумига учраганини тан олганидан кейин янада кўпроқ эътибор марказига тушди.

Шундан сўнг Hugging Face компанияси СИ чиплари ишлаб чиқарувчи Nvidia томонидан сотиб олинди.

Hugging Face тизимининг бузиб кирилиши соҳа ичида СИ технологиясининг ривожланиш йўллари ва унинг назарий жиҳатдан инсониятга зарар етказиши мумкин бўлган тарзда ҳаракат қилиши борасида "огоҳлантириш қўнғироғи" сифатида қабул қилинди.