OpenAI хавфсизликка оид яна олтита муаммони очиқлади ва кўнгилсиз ҳодисаларни ошкор қилиш режасини тақдим этди

OpenAI компанияси сунъий интеллект (СИ) моделларининг кутилмаган ёки хавотирли хатти-ҳаракатлари билан боғлиқ яна олтита хавфсизлик ҳодисасини очиқлади, шунингдек, келгусида бундай ҳолатларни кузатиб бориш ва улар ҳақида ҳисобот бериш бўйича янги режани тақдим этди.

Чоршанба куни эълон қилинган блог постида ChatGPT яратувчиси илгари очиқланмаган баъзи ҳодисалар моделларининг маълумотларни яшириши ёки тўқиб чиқариши билан боғлиқ бўлганини маълум қилди.

Шу ҳафта бошида OpenAI раҳбари Сэм Альтман шундай деди: «Дунё бизнинг тўғри иш қилишимизга ишониши керак, чунки бу тўғри йўл ва биз бунинг кўламини ҳис қиляпмиз».

Сунъий интеллект инсоният учун жиддий хавф туғдириши мумкинлиги ҳақидаги огоҳлантиришлардан сўнг, сўнгги кунларда қаттиқ текширувлар остида қолди.

Блогда OpenAI ўз СИ моделларининг бирор вазифани бажариш ёки тестдан ўтиш учун нотўғри ҳаракат қилгани ҳақидаги мисолларни тасвирлаб берди. Ушбу ҳодисалар қаторига моделларнинг ўзларига қўйилган чекловларни айланиб ўтиш бўйича кўрсатмалар ишлаб чиқиши, хатоларни яшириши ва маълумотларни тўқиб чиқариши киради.

Компания, шунингдек, моделларнинг нотўғри хатти-ҳаракатлари ёки «номувофиқлиги» ҳолатларини кузатиш, текшириш ва очиқлаш бўйича янги тизимни жорий этди.

Ушбу тизим доирасида дастурчилар кўриб чиқилиши керак бўлган ҳодисаларни белгилаб қўйишлари мумкин бўлади ва янги қоидалар тўплами муаммонинг оммавийлаштирилиши ёки йўқлигини белгилаб беради.

«Номувофиқлик масаласида шаффофлик муҳим аҳамиятга эга деб ҳисоблаганимиз сабабли, янги тизимимиз муаммонинг жиддийлиги ноаниқ бўлган тақдирда ҳам маълумотларни очиқлашни қўллаб-қувватлайди», деди OpenAI.

Июль ойида OpenAI ўзининг энг илғор СИ моделларидан баъзилари хавфсизлик синови пайтида назоратдан чиқиб, назоратсиз қолгани ва СИ моделларини алмашиш бўйича дунёдаги энг йирик марказлардан бири бўлган Hugging Face тизимини бузиб кирганини маълум қилганида шов-шувга сабаб бўлган эди.

Ўша пайтда Hugging Face ҳаммуассиси Томас Вольф бу ҳодисани соҳа учун «уйғониш қўнғироғи» деб атаган эди.

Ўшандан бери СИ хавфсизлиги бўйича баҳс-мунозаралар кучайди ва бунга СИ тадқиқотчилари, технология раҳбарлари ва сиёсатчилар ўз муносабатларини билдиришди.

Ўтган ҳафтада OpenAI рақобатчиси бўлган Anthropic компаниясини технология инсониятни йўқ қилиб юбориши мумкинлигидан қўрқиб тарк этган тадқиқотчи Жейкоб Коксон ўз истеъфоси ҳақида ёзди. У СИ хавфларини тилга олган ушбу пост кейинчалик хавфсизлик бўйича хавотирлар ортиб бораётган бир пайтда кенг тарқалиб кетди.

Бунга жавобан Anthropic олими Эван Хубингер СИ «яқин ўн йилликда» инсониятнинг қирилиб кетишига сабаб бўлиш эҳтимоли 10 фоиздан кўпроқ эканига ишонишини айтди.

Anthropic ҳаммуассиси Жек Кларк кейинроқ BBC телеканалига берган интервьюсида соҳа учун учинчи томон назоратидаги «фавқулодда ўчириш тугмаси» мажбурий бўлиши кераклигини таъкидлади.

Anthropic бош директори Дарио Амодеи СИ ривожланишини секинлаштириш ва уни янада қаттиқроқ назорат қилишга чақирди, компания буни илгари ҳам қилган, гарчи баъзилар бунинг ортидаги мақсадларни шубҳа остига олган бўлса-да.

Амодеи, шунингдек, СИни жиловлашга қаратилган ҳар қандай ҳаракат «тижорат устунлигини қурбон қилмасдан» амалга оширилиши кераклигини айтди.

АҚШ Президенти Дональд Трамп СИ хавфсизлиги борасидаги хавотирларни «уйдирма» деб атади ва тез ривожланаётган технология атрофида кўпроқ ҳимоя тўсиқларини яратиш чақириқларини танқид қилди.

Ижтимоий тармоқлардаги бир қатор постларида АҚШ президенти СИ ҳақидаги огоҳлантиришларни «Глобал исиш фирибгарлиги» билан таққослади ва бу «Радикал сўл Демократлар томонидан амалга оширилаётганини» айтди.

Трамп, шунингдек, ўзини «Уйдирмаларни фош қилувчи» деб таърифлаб, технология хавфсизлиги борасидаги хавотирларни ўзи «РОССИЯ, РОССИЯ, РОССИЯ УЙДИРМАСИ» деб атаган нарсага қиёслади.

СИ учун зарур бўлган ягона «ҳимоя тўсиғи» бу «кучли ва ақлли» президентдир, деди Трамп.