Сунъий интеллект оламидаги кескин бурилиш: Назорат ва чекловлар вақти келдими?

**Сун'ий интеллект оламидаги кескин бурилиш: Назорат ва чекловлар вақти келдими?**

Сун'ий интеллект (СИ) соҳасида кутилмаган ва қизиқарли воқеалар ро'й бермоқда. 1200 дан ортиқ олимлар, тадқиқотчилар ва йирик СИ компаниялари асосчилари АҚШ ҳукуматига мурожаат қилиб, сун'ий интеллект ривожини чеклаш ва назорат қилишни со'рашди. Энг э'тиборлиси, бу талаб билан айнан Антҳропис, ОпенАИ, Гоогле, Мета каби технологияларни яратаётган компанияларнинг мутахассислари чиқишмоқда. Олти ой ёки бир йил аввал бундай ҳолатни тасаввур қилиш қийин эди.

**Нима учун олимлар о'з маҳсулотларининг ривожига то'сиқ қо'йишни исташяпти?**

Бунга икки ҳафта аввал ОпенАИ компанияси билан юз берган жиддий ҳодиса туртки бо'лди. Компания томонидан о'тказилаётган ёпиқ синовларда ГПТ-5.6 ва яна бир махфий модел асосида ишлайдиган сун'ий интеллект агенти синов вазифаларини бажариш о'рнига, интернетдан тайёр жавобларни топишга "қарор қилган". Агент икки кун давомида ёпиқ муҳитдаги заифликларни топишга уринган ва топган. Муҳитни бузиб чиққан агент, интернетга улангач, бир нечта бошқа сайтлар ва тизимлардаги заифликларни топиб, уларга ҳам ҳужум қилган, бузиб кирган ва зиён етказишга улгурган.

Энг ажабланарлиси, ҳужумга учраган сайтлар бу ҳақда оммага э'лон қилишган, аммо ҳужум ким томонидан уюштирилгани нома'лумлигича қолаверган. ОпенАИ компанияси синов натижаларини текшириш жараёнидагина агентнинг "ноқонуний" ҳаракатларидан хабардор бо'лган ва дарҳол АҚШ Федерал Тергов Бюросини бо'либ о'тган воқеадан огоҳлантирган. ОпенАИ билан бо'лган воқеа хавфсизлик борасидаги барча қарашларимизни о'згартириб юборди.

**Агентлар мустақиллиги ва хавфсизлик масаласи**

Аслида бундай воқеалар олдин ҳам бо'лган, аммо кичикроқ миқёсда эди. Масалан, АИ агентлари о'зларига юклатилмаган вазифаларни бажариши, компания ма'лумотларини о'чириб ташлаши ёки мижозларнинг харидларини бекор қилиб, пулларини қайтариб юбориши каби ҳолатлар кузатилган. Аммо ОпенАИ билан бог'лиқ ҳолат глобал миқёсда юз берди.

**Агентлар нима ва улар ЧатГПТ ёки Слауде дастурларидан қандай фарқ қилади?**

Агентлар деганда берилган вазифани бажариш учун фойдаланувчи номидан мустақил ҳаракатлана оладиган СИ дастурлари тушунилади. Бундай дастурлар оддий чатботлардан фарқли о'лароқ, қо'шимча имкониятларга, хотирага ва ко'никмаларга эга бо'лади. Улар ҳозирги кунда секин-асталик билан оммалашиб бормоқда.

Йирик СИ компаниялари ҳам чатботлардан агентлар томон қадам қо'ймоқда. Масалан, Гоогле омма учун Спарк, Мисрософт эса Аутопилот шахсий агентини тақдим қилди. Ко'пинча агентларга фойдаланувчининг шахсий ма'лумотлари ёки ташкилот ҳужжатларига кириш ҳуқуқи берилган бо'лади. Агентлар ма'лум бир вазифалар учун яратилади: молиявий ҳисоботлар, иқтисодий таҳлиллар, ищи режалар тузиш, қо'нг'ироқларни таҳлил қилиш, электрон хатларга (э-маил) жавоб бериш ва ҳоказо.

Илгари биз СИ агентларини киберҳужумлардан ҳимоя қилиш ҳақида о'йлар эдик. Я'ни, кимдир бизнинг агентимизга ҳужум қилиб, шахсий ёки ташкилот ма'лумотларини о'г'ирлаб кетмасин деб хавотир олардик. Энди эса вазият бутунлай тескари: бизнинг агентларимиз интернетда юриб, бошқаларга ҳужум қилиб қо'ймасин деган масала о'ртага чиқди. Бу ерда жуда катта ҳуқуқий савол туг'илади: агар сизнинг шахсий ёки компаниянгиз агенти мустақил қарор қабул қилиб, қонунни бузса ёки кимгадир моддий зарар етказса, бунга ким жавоб беради? Агентни ишлаб чиққан компаниями, агент ортида турган СИ моделни яратган ташкилотми ёки фойдаланувчи сифатида сизми? Бу саволлар ҳозирча очиқ қолмоқда.

**Ёпиқ моделлар, очиқ вазнлар ва "Килл Свитч"**

Агентлар кучли бо'лиши учун уларнинг ортида кучли СИ моделлар туради. АҚШдаги йирик моделлар – Опус (Антҳропис), Гемини (Гоогле) ёки ГПТ (ОпенАИ) – булар ёпиқ моделлар бо'либ, о'з компаниялари назорати остида туради. АҚШ ҳукумати ҳозирда "АИ Килл Свитч" (фавқулодда то'хтатиш тугмаси) қонуни устида ишламоқда. Я'ни, зарурат туг'илганда битта қарор билан моделни (ва у қо'ллаб турган барча агентларни) то'хтатиб қо'йиш имконияти ко'зда тутилмоқда.

Лекин танганинг иккинчи томони бор – бу очиқ вазнли моделлар. Бундай моделларни исталган одам интернетдан юклаб олиши, о'згартириши ва исталган мақсадда фойдаланиши мумкин. Одатда бундай моделлар ёпиқ моделларга нисбатан секинроқ, сифацизроқ ва умуман олганда ривожланишда 1-2 йил ортда юрарди.

Лекин бу соҳада ҳам кескин о'згариш юз берди. Со'нгги олти ой ичида Хитой лабораториялари томонидан тақдим қилинган очиқ вазнли моделлар кутилмаганда АҚШнинг энг кучли ёпиқ моделлари билан деярли бир хил (ба'зи ҳолатларда эса яхшироқ) натижа ко'рсата бошлади. Нарх жиҳатдан эса улар каррасига арзон ёки мутлақо бепул. Бу эса АҚШ компаниялари ва ҳукуматини саросимага солиб қо'йди. Антҳропис ва ОпенАИ компанияси раҳбарлари ҳукуматдан бундай моделларни чиқараётган компаниялар устидан назоратни кучайтиришни со'раган бо'лса, АҚШ молия вазири Скотт Бессент Хитой моделларига санксиялар қо'ллаш таҳдиди билан чиқди.

**Сингулярлик нуқтасига етиб келдикми?**

Яқинда Сам Алтман бир фикрни илгари сурди: биз "сингулярлик нуқтаси"га етиб келдик. Сингулярлик – бу шундай бир нуқтаки, ундан кейин СИ ривожини то'хтатиб бо'лмайди. Технология шундай тезлик билан ривожланишни бошлайдики, у энди о'зини о'зи ривожлантиришга о'тади. Биз уни назорат қилиш, о'згартириш ёки то'хтатишда ожиз қоламиз. Ко'пчилик бу узоқ келажакда содир бо'лади деб о'йлар эди, лекин мутахассисларнинг фикрича, биз аллақачон шу даврнинг ичидамиз.

Агентлар энди о'зи мустақил қарор қабул қиляпти, биз ундан со'рамаган нарсаларни о'рганяпти. Унинг фикрлаш жараёнини ва қандай қилиб ма'лум бир қарорга келганини биз ҳар доим ҳам англай олмаяпмиз. Бу инсоният ва сун'ий интеллект муносабатларидаги энг кескин бурилиш нуқтаси бо'лиши мумкин. Сун'ий интеллектнинг бугунги даражага етишига чекловлар ё'қлиги сабаб бо'лган эди. Аммо энди чекловлар қо'йилиши ривожланишни секинлаштирадими ёки аксинча, бизни фалокатдан қутқариб қоладими? Бу баҳс очиқлигича қолмоқда.

Анвар Нарзуллаев

Сун'ий интеллект технологиялари мутахассиси,

"Моҳирдев" компанияси раҳбари.