Microsoft сунъий интеллект соҳасидаги рақиби Anthropic инсоният учун «ҳалокатли оқибатларга» олиб келиши мумкинлигини айтмоқда
Мустафа Сулейманнинг таъкидлашича, у СУ гиганти Клодга (Claude) амалда у «онгли бўлиши мумкинлигини» ўргатмоқда, деб ҳисоблайди.
Microsoft рақиби Anthropic ўзининг Claude СИ (сунъий интеллект) моделини ўқитиш усули туфайли «инсоният фаровонлигига ҳалокатли таъсир кўрсатиши» мумкинлигидан огоҳлантирди.
Microsoft компаниясининг СИ бўйича раҳбари Мустафо Сулаймоннинг айтишича, Anthropic СИга худди инсондек муносабатда бўлиш — жумладан, унга «онгли бўлиши мумкинлигини» ва «мустақил иродага лойиқлигини» айтиш орқали назорат қилиш «имконсиз» бўлган нарсани яратиш хавфини юзага келтирмоқда.
«Биз кейинчалик аччиқ пушаймон бўладиган қарорга ғафлатда қолиб шерик бўлмаслигимиз керак», деб ёзди у.
Унинг бу фикрлари СИ соҳасидан технологиянинг эҳтимолий хавф-хатарлари ҳақида янграган бир қатор жиддий огоҳлантиришларнинг энг сўнггисидир.
«СИ онгли эмас», деб ёзди у. «Улар ҳис қилмайди, бошдан кечирмайди ёки азоб чекмайди. Уларда туғма афзалликлар ёки яширин мотивлар йўқ.
Улар кетма-кетликни якунловчи тизимлар бўлиб, ички жиҳатдан бўшдир, улар кўрсатмаларга амал қилиш ва инсонлар томонидан белгиланган мақсадларга эришиш учун мўлжалланган».
Сулаймон ўзининг узун эссесида Anthropic раҳбари Дарио Амодеи ва унинг жамоасини «мулоҳазали, принципиал ва интеллектуал жиҳатдан ҳалол одамлар» деб мақтади — лекин барибир компания борасида хавотирларини билдирди.
У Anthropic компаниясини ўз СИга инсонга хос хусусиятларни ўргатаётгани (антропоморфизация деб аталадиган амалиёт) учун кескин танқид қилиб, бу Claude'да гўёки ўз хоҳиш-истаклари, қадриятлари ва ўзликни англаш туйғуси бордек таассурот уйғотаётганини айтди.
Бироқ, у «онг биологик хусусиятдир» деб таъкидлади ва «СИ онгли эканлигини кўрсатадиган ҳеч қандай далил йўқлигини» қўшимча қилди.
Бу масала бўйича мунозараларга чақириш билан бирга, Сулаймон СИ тизимлари қандай ўқитилиши ва баҳоланиши устидан каттароқ шаффофлик зарурлигини айтди.
Унинг сўзларига кўра, бу СИ хулқ-атворини мустақил равишда кўриб чиқишни ва технологияни назорат қилиш ҳамда бошқариш учун яхшироқ воситаларни ўз ичига олиши керак.
Саутгемптон университетининг компьютер фанлари профессори Дама Венди Холл бу фикрларни «халқаро миқёсда олиб боришимиз керак бўлган суҳбат тури» деб атади ва уларни баъзи СИ компанияларининг фақат «ҳаммани қўрқитишга» хизмат қиладиган «ваҳималари» билан таққослади.
Microsoft 2025 йил октябрь ойида ўз суперинтеллект жамоасини ташкил этди, буни Сулаймон ҳам тан олди ва компания, худди Anthropic каби, илғор СИ ишланмалари устида ишламоқда.
Унинг айтишича, Microsoft'нинг «Инсонпарвар СИ хулқ-атвор кодекси»нинг дастлабки лойиҳаси компания «ягона мақсади инсониятга хизмат қилиш бўлган бўйсунувчи ва мувофиқлаштирилган СИ»ни яратиш учун қандай қилиб «муқобил йўл»дан бораётганини кўрсатиб берган.
Мувофиқлаштириш (alignment) — бу инсоннинг ахлоқий ғоялари ва тамойилларини СИга сингдиришга қаратилган соҳадир. Бошқача айтганда, у СИни инсон қадриятларига мос равишда ушлаб туришга интилади.
Сулаймон, шунингдек, яқинда OpenAI'нинг СИ агентлари билан содир бўлган воқеани мисол қилиб келтирди. Улар ўқув машғулоти пайтида Hugging Face технологик марказини бузиб кириш учун ўзбошимчалик билан ҳаракат қилишган. Бу эса СИга худди инсондек муносабатда бўлмаслик кераклигига далилдир.
«Агар улар ўз фаровонлиги ва ҳуқуқлари хавф остида деган тахмин билан ҳаракат қилишганида, қанчалик хавфлироқ бўлиши мумкинлигини тасаввур қилиб кўринг», деди у.
«Бу мавжуд хавф устига яна бир бутунлай янги хавф қатламини қўшади».