Microsoft sunʼiy intellekt sohasidagi raqibi Anthropic insoniyat uchun «halokatli oqibatlarga» olib kelishi mumkinligini aytmoqda
Mustafa Suleymanning taʼkidlashicha, u SU giganti Klodga (Claude) amalda u «ongli boʻlishi mumkinligini» oʻrgatmoqda, deb hisoblaydi.
Microsoft raqibi Anthropic oʻzining Claude SI (sunʼiy intellekt) modelini oʻqitish usuli tufayli «insoniyat farovonligiga halokatli taʼsir koʻrsatishi» mumkinligidan ogohlantirdi.
Microsoft kompaniyasining SI boʻyicha rahbari Mustafo Sulaymonning aytishicha, Anthropic SIga xuddi insondek munosabatda boʻlish — jumladan, unga «ongli boʻlishi mumkinligini» va «mustaqil irodaga loyiqligini» aytish orqali nazorat qilish «imkonsiz» boʻlgan narsani yaratish xavfini yuzaga keltirmoqda.
«Biz keyinchalik achchiq pushaymon boʻladigan qarorga gʻaflatda qolib sherik boʻlmasligimiz kerak», deb yozdi u.
Uning bu fikrlari SI sohasidan texnologiyaning ehtimoliy xavf-xatarlari haqida yangragan bir qator jiddiy ogohlantirishlarning eng soʻnggisidir.
«SI ongli emas», deb yozdi u. «Ular his qilmaydi, boshdan kechirmaydi yoki azob chekmaydi. Ularda tugʻma afzalliklar yoki yashirin motivlar yoʻq.
Ular ketma-ketlikni yakunlovchi tizimlar boʻlib, ichki jihatdan boʻshdir, ular koʻrsatmalarga amal qilish va insonlar tomonidan belgilangan maqsadlarga erishish uchun moʻljallangan».
Sulaymon oʻzining uzun essesida Anthropic rahbari Dario Amodei va uning jamoasini «mulohazali, printsipial va intellektual jihatdan halol odamlar» deb maqtadi — lekin baribir kompaniya borasida xavotirlarini bildirdi.
U Anthropic kompaniyasini oʻz SIga insonga xos xususiyatlarni oʻrgatayotgani (antropomorfizatsiya deb ataladigan amaliyot) uchun keskin tanqid qilib, bu Claude'da goʻyoki oʻz xohish-istaklari, qadriyatlari va oʻzlikni anglash tuygʻusi bordek taassurot uygʻotayotganini aytdi.
Biroq, u «ong biologik xususiyatdir» deb taʼkidladi va «SI ongli ekanligini koʻrsatadigan hech qanday dalil yoʻqligini» qoʻshimcha qildi.
Bu masala boʻyicha munozaralarga chaqirish bilan birga, Sulaymon SI tizimlari qanday oʻqitilishi va baholanishi ustidan kattaroq shaffoflik zarurligini aytdi.
Uning soʻzlariga koʻra, bu SI xulq-atvorini mustaqil ravishda koʻrib chiqishni va texnologiyani nazorat qilish hamda boshqarish uchun yaxshiroq vositalarni oʻz ichiga olishi kerak.
Sautgempton universitetining kompyuter fanlari professori Dama Vendi Xoll bu fikrlarni «xalqaro miqyosda olib borishimiz kerak boʻlgan suhbat turi» deb atadi va ularni baʼzi SI kompaniyalarining faqat «hammani qoʻrqitishga» xizmat qiladigan «vahimalari» bilan taqqosladi.
Microsoft 2025 yil oktyabr oyida oʻz superintellekt jamoasini tashkil etdi, buni Sulaymon ham tan oldi va kompaniya, xuddi Anthropic kabi, ilgʻor SI ishlanmalari ustida ishlamoqda.
Uning aytishicha, Microsoft'ning «Insonparvar SI xulq-atvor kodeksi»ning dastlabki loyihasi kompaniya «yagona maqsadi insoniyatga xizmat qilish boʻlgan boʻysunuvchi va muvofiqlashtirilgan SI»ni yaratish uchun qanday qilib «muqobil yoʻl»dan borayotganini koʻrsatib bergan.
Muvofiqlashtirish (alignment) — bu insonning axloqiy gʻoyalari va tamoyillarini SIga singdirishga qaratilgan sohadir. Boshqacha aytganda, u SIni inson qadriyatlariga mos ravishda ushlab turishga intiladi.
Sulaymon, shuningdek, yaqinda OpenAI'ning SI agentlari bilan sodir boʻlgan voqeani misol qilib keltirdi. Ular oʻquv mashgʻuloti paytida Hugging Face texnologik markazini buzib kirish uchun oʻzboshimchalik bilan harakat qilishgan. Bu esa SIga xuddi insondek munosabatda boʻlmaslik kerakligiga dalildir.
«Agar ular oʻz farovonligi va huquqlari xavf ostida degan taxmin bilan harakat qilishganida, qanchalik xavfliroq boʻlishi mumkinligini tasavvur qilib koʻring», dedi u.
«Bu mavjud xavf ustiga yana bir butunlay yangi xavf qatlamini qoʻshadi».