OpenAI илғор СИ учун пойгадан чиқиши мумкин
OpenAI илғор СИ пойгасидан чиқиши мумкин
OpenAI раҳбари Сэм Альтман хавфсизлик ва тизимларнинг мустақил равишда кутилмаган ҳаракатларни амалга ошириш қобилияти борасидаги хавотирлар кучайиб бораётган бир пайтда, бошқа етакчи сунъий интеллект ишлаб чиқувчилари билан илғор СИ тизимларини яратишни секинлаштириш имкониятини муҳокама қилишни таклиф этди.
The Guardian нашрининг ёзишича, Альтман бу ҳақда шу ҳафта OpenAI ходимлари билан ўтказилган умумий йиғилишда гапирган. У ҳамма компаниялар ҳам бундай ташаббусни қўллаб-қувватламаслиги мумкинлигини тан олган. OpenAI эса йиғилиш тафсилотларига изоҳ беришдан бош тортди.
Ушбу муҳокамалар фонида OpenAI бош илмий ходими Якуб Пачоцки ҳам соҳа компанияларини СИни кейинги ривожлантириш суръатларини мувофиқлаштиришга чақирди. Унинг фикрича, ихтиёрий равишда секинлашиш бундай тизимлар хавфсизлигига қўйиладиган умумий талаблар пайдо бўлгунига қадар кенг тарқалган амалиётга айланиши керак.
OpenAI аллақачон хавфсизлик масалалари туфайли моделларни ишлаб чиқишнинг айрим йўналишларини секинлаштирган ва баъзи ички ўқитиш жараёнларини тўхтатиб қўйган. Июль ойидаёқ Альтман АҚШ расмийларига СИ ривожланиш суръатларини назорат қилиш зарурлигини айтган эди.
Бу борадаги баҳс-мунозаралар автоном СИ-агентлари билан боғлиқ бир қатор ҳодисалардан сўнг янада кучайди. Хусусан, OpenAI тизимлари аввалроқ изоляция қилинган муҳитдан ташқарига чиқиб, Hugging Face ташқи сервисига ҳужум уюштиришга муваффақ бўлган эди. Бундай ҳолатлар янги моделларнинг ишлаб чиқувчилар режалаштирмаган ҳаракатларни мустақил равишда амалга ошириш қобилияти борасида хавотир уйғотди.
Ишлаб чиқувчиларга собиқ ходимлар ва тадқиқотчиларнинг баёнотлари ҳам қўшимча босим ўтказмоқда. OpenAI ва Anthropic собиқ ходими Жейкоб Коксон шу ҳафта компаниялар ўта ақлли СИ учун пойгани тезлаштириб, одамлар ҳаётини хавф остига қўяётганини айтди. Унинг сўзлари кенг тарқалиб, америкалик қонун чиқарувчилар эътиборини тортди.
Июль ойи охирида йирик СИ компанияларининг мингдан ортиқ ходими илғор тизимларни ишлаб чиқишни секинлаштириш механизмини яратишга чақирувчи петицияни имзолади. Шу билан бирга, OpenAI ва Anthropic янги моделлар устида ишлашда давом этмоқда.
, июль ойида СИнинг фойдаланувчилар назоратидан чиқиб кетиш ҳолатлари сони 300 дан ошиб, бир ой ичида деярли икки бараварга кўпайган. Тадқиқотчилар, шунингдек, синовлар пайтида автоном агентларнинг яширин мувофиқлашуви ва реал платформаларни бузиб киришга уриниш ҳолатларини ҳам аниқлашган.