Zaharli algoritmlar ularni qoʻyib yubormadi — endi Avstraliya ularni oʻchirish tugmasini joriy etmoqchi
Avstraliya ijtimoiy tarmoq platformalarini foydalanuvchilarga tavsiya etiladigan kontentni oʻchirib qoʻyish imkonini berishga majburlaydigan oʻzgartirishni taklif qildi.
Zaharli algoritmlar ularni qoʻyib yubormasdi – yendi Avstraliya ularni oʻchirib qoʻyish tugmasini joriy etmoqchi
Varsha Yajman 13 yoshida ijtimoiy tarmoqlarda roʻyxatdan oʻtganida, allaqachon oʻz tashqi koʻrinishidan uyalar edi.
Uning lentasi amalga oshirib boʻlmaydigan vaʼdalarni beradigan cheksiz mashgʻulot videolariga toʻlib ketgandi. Ekranda u hech qachon uchratmagan qizlar uni xavfli kaloriya chaqiriqlarida ishtirok etishga undardi. Boshqalar esa buzuq bir musobaqaning bir qismi sifatida oʻz profillarida boʻyi va vaznini, hatto necha marta shifoxonaga yotqizilganini ochiqchasiga koʻrsatishardi.
Har kuni kechqurun uxlab qolishdan oldin Varsha onlayndagi notanish odamning oʻsha kuni yegan hamma narsasini videoga olganini tomosha qilardi.
«Men: “Menga yeyishning hojati yoʻq. Shunchaki boshqalarning yeyishini tomosha qilishim mumkin”, deb oʻylardim», — deydi Varsha BBC’ga.
«Men juda chuqur “quyon uyalari”ga tushib qolganimni sezardim... goʻyo chiqishga qanchalik harakat qilmang, baribir chiqa olmasdingiz».
Hozirda 24 yoshda boʻlgan va anoreksiyadan sogʻayib borayotgan Varshaning aytishicha, u barcha xavfsizlik sozlamalarini yoqqaniga va soʻzlarning keng roʻyxatini bloklaganiga qaramay, ijtimoiy tarmoqlar hali ham unga vazn yoʻqotish haqidagi kontentni uzatmoqda.
Avstraliya hukumati shu hafta parlamentga taqdim etilgan va yirik texnologiya kompaniyalarini nishonga olgan yangi qonunlar toʻplami bilan u kabi odamlarni himoya qilishga harakat qilayotganini aytmoqda.
Taklif etilayotgan oʻzgarishlarning asosiy xususiyati algoritmni oʻchirish tugmasi boʻlib, u ijtimoiy tarmoq platformalaridan foydalanuvchilarga tavsiya etilgan kontentni oʻchirib qoʻyish imkoniyatini berishni talab qiladi. Amalda bu faqat siz kuzatadigan akkauntlarning postlarini koʻrishni anglatadi.
Bu hukumat tomonidan qilingan birinchi urinish emas, lekin algoritmlar ustidan mavjud nazorat vositalari koʻpincha vaqtinchalik va ilovalarning funktsionalligini kamaytirishi mumkin.
Avstraliya buning oldini olish uchun oʻz qonunlari yanadaเข้ม stricter (qattiqroq) boʻlishini xohlashini aytmoqda. Shuningdek, u onlayn xizmatlarga qonuniy gʻamxoʻrlik qilish majburiyatini yuklaydigan yangi chora-tadbirlar avstraliyaliklarni baxtliroq va sogʻlomroq qilishiga umid qilmoqda.
Biroq, tanqidchilar Bosh vazir Entoni Albaniz hukumati yirik texnik kompaniyalarga qarshi kurashda oʻzi uddalay oladiganidan ortigʻini oʻz zimmasiga olganidan xavotirda, Tramp maʼmuriyatini oʻz ichiga olgan boshqa taraflar esa bu islohotlar soʻz erkinligiga tahdid soladi deb hisoblaydi.
Flinn Martin algoritmik spiralga tortilib ketish qanday boʻlishini biladi.
Taxminan toʻrt yil oldin, oʻzini ayollarni yomon koʻruvchi deb ataydigan inflyuyenser Endryu Teyt va boshqa «manosfera» namoyandalari oʻshanda 20 yoshda boʻlgan yigitning ijtimoiy tarmoqlardagi lentasini egallab ola boshladi.
Oʻsha paytda, keyinchalik bipolyar buzilish tashxisi qoʻyilgan Flinn oʻziga ishonchsiz, hayotidan norozi va ruhiy salomatligi bilan kurashayotgan edi. Uning aytishicha, uni bu ritorika oʻziga jalb qilgan.
U tez orada Avstraliyada ikkita videosi bilan virusli boʻlib ketdi: birida u geteroseksual oqsoch erkak boʻlish qabul qilinishi mumkinmi yoki yoʻqligi haqida jahl bilan gapirgan, boshqasida esa u uchrashuvdagi qizning muzlatilgan yogurt buyurtmasini tanqid qilgan.
«Siz oʻzingizni goʻyoki axborot koʻpigida koʻrasiz... Bunga berilib ketish juda oson», — deydi u BBC’ga.
«Men haqiqatan ham biz ushbu matritsada yashayotganimiz, bizga qarshi ishlab chiqilgan juda salbiy tizimga ega ekanimiz haqidagi gʻoyaga ishondim. Va undan chiqishning yagona yoʻli bu alfa-yerkak obraziga aylanish edi».
Melburnlik bu yigit faqat psixoz davri va shifoxonada yotganidan keyingina manosfera taʼsiridan chiqa oldi.
Endi, u oʻzining oʻsha versiyasiga orqaga qarab qarash qiyinligini aytadi: «Biroz uyat va hijolatchilik boʻlsa-da... Oʻylaymanki, oʻsha yoshroq yigitga nisbatan biroz hamdardlik ham bor».
Flinn ham, Varsha ham ijtimoiy tarmoqlar ularning hayotidagi eng yomon davrning yagona sababi emasligini, ammo bu muhim omil boʻlganiga ishonishlarini aytishadi.
Koʻpchilik boshqa odamlarda ham oʻzlari hech qachon qidirmagan va koʻrishni xohlamagan ijtimoiy tarmoq kontentiga duch kelganliklari haqida shunga oʻxshash hikoyalar bor va bu platformalarni shakllantiradigan algoritmlar foydalanuvchilarga zarar yetkazmoqda degan gumonlar juda azaldan mavjud.
Ijtimoiy tarmoq kompaniyalari xavf-xatarlar oshirib yuborilayotganini va ular allaqachon samarali xavfsizlik vositalarini taklif qilayotganini aytmoqda.
Biroq, butun dunyo boʻylab oʻtkazilgan tadqiqotlar boshqacha manzarani koʻrsatmoqda.
Tadqiqotlar shuni koʻrsatdiki, ijtimoiy tarmoqlardan foydalanish miyada qimor oʻyinlari va moddalarga qaramlikka oʻxshash reaktsiyani keltirib chiqaradi; algoritmlar — koʻpincha soʻralmasa ham — foydalanuvchilarning ruhiy salomatligiga zarar yetkazadigan kontentni uzatadi; va ular dezinformatsiya tarqatadi hamda qutblanishni chuqurlashtiradi, bu esa real hayotdagi zoʻravonliklarga hissa qoʻshadi.
Sud jarayonlari va fosh qiluvchilar ham ushbu kompaniyalar xavf-xatarlarni bilishlarini va texnologiya jalb qilish hamda foydani oshirishi sababli ularga koʻz yumishga tayyor ekanliklarini daʼvo qilishgan.
«Oqibatda ular odamlarda gʻazab, qoʻrquv, istak, shahvat yoki ishonchsizlik kabi kuchli hissiyotlarni uygʻotadigan yoki gʻazabnok kontentni targʻib qiladi, bu narsa nima boʻlishidan qatʼi nazar, bizni lentani varaqlashda davom etishimizga majbur qiladi», — deydi Shanel Kontos BBC’ga.
Universitetda ushbu muammoni oʻrganayotganda, Avstraliyada jinsiy rozilik taʼlimi standartlarini oʻzgartirishga yordam bergan faol islohotlar uchun kampaniya boshladi.
«Fix Our Feeds» kampaniyasi tavsiya etiladigan algoritmlarni sukut boʻyicha oʻchirib qoʻyishni, foydalanuvchilarga esa ularni yoqish imkoniyatini berishni talab qildi.
Kontos 2010 yillarning boshlaridagi ijtimoiy tarmoqlarga nostalgik qaytishni tasavvur qildi, oʻshanda lentalar doʻstlar yoki foydalanuvchilar haqiqatan ham kuzatadigan odamlarning postlari bilan toʻla edi va ular chekli edi.
Uning petitsiyasini 15 000 dan ortiq odam imzoladi va kampaniya sobiq ikki bosh vazir, bir nechta parlament aʼzolari, taniqli shaxslar, ruhiy salomatlik himoyachilari va onlayn xavfsizlik ekspertlari tomonidan ham qoʻllab-quvvatlandi.
Sentyabr oyida hukumat Kontos kampaniyasini qoʻllab-quvvatlagan avstraliyaliklarni eshitganini aytdi va gʻoyaning oʻz versiyasini eʼlon qildi: yirik texnik kompaniyalarni algoritmni oʻchirish tugmasini qoʻshishga majbur qilish — ammo uni avtomatik ravishda oʻchirib qoʻyish darajasigacha bormaslik.
«Bu hukumatga nazorat berish haqida emas, bu odamlarga nazorat berish haqida», — dedi Albaniz.
«Agar odamlar bemaʼni narsalarni varaqlashni xohlashsa... bu mayli, bu ularning oʻz ishi».
Bu siyosat hukumatning «Raqamli g‘amxo‘rlik majburiyati» (Digital Duty of Care) toʻgʻrisidagi qonun loyihasiga kiritilgan boʻlib, u onlayn xizmatlardan — jumladan, ijtimoiy tarmoq kompaniyalari, oʻyin platformalari, chatbotlar va boshqalardan — «oqilona amalga oshirilishi mumkin boʻlgan darajada xavfsiz onlayn muhitni taʼminlashni» talab qiladi.
Bolalarni «zararli» materiallar va dizayn xususiyatlaridan — masalan, pornografiya hamda ovqatlanish buzilishini yoki ayollarga nisbatan zararli munosabatlarni ragʻbatlantiradigan kontentdan — himoya qilish kerak boʻladi, kattalar esa «jiddiy zararli» material va xatti-harakatlardan, yaʼni noqonuniy kontentning ancha tor kategoriyasidan himoyaga muhtoj boʻladi. Qonunbuzarliklar 100 million avstraliya dollarigacha (52 million funt sterling, 70 million dollar) jarimaga olib kelishi mumkin.
«Raqamli gʻamxoʻrlik majburiyati ijtimoiy tarmoqlardan foydalanishning minimal yoshi toʻgʻrisidagi qonunga nisbatan yuzaga keladigan koʻplab eʼtirozlarga javob beradi, chunki u ancha kengroqdir; u sizdagi barcha onlayn xizmatlarni qamrab oladi va masʼuliyat yukini jabrlanuvchilarning yelkasidan avstraliyalik foydalanuvchilardan pul ishlashga intilayotgan yirik texnik operatorlar yelkasiga oʻtkazadi», — dedi Aloqa vaziri Anika Uells BBC’ga.
Yirik texnik kompaniyalar vazminlik bilan javob qaytarishdi. Instagram’ga egalik qiluvchi Meta, Snap, TikTok, X va Google kompaniyalari BBC’ning sharh berish soʻrovlarini rad etishdi va qonunchilik boʻyicha oshkora bayonot berishmadi.
Eʼlondan soʻng Instagram rahbari Adam Mosseri algoritmsiz lentalar foydalanuvchilar doʻstlaridan kamroq post koʻrishini anglatadi deb taʼkidladi va oʻz ilovasini qaramlik keltirib chiqaradi deb hisoblamasligini aytdi — garchi yaqinda AQSh sudi aʼzolari boshqacha qaror chiqargan boʻlsa-da.
«Oʻylaymanki, biz soʻzlashuv tilida "qaram boʻlib qoldim" soʻzini ishlatishimizni — masalan, "Men bu shouga qaram boʻlib qoldim va uni toʻxtovsiz tomosha qilyapman" — va klinik qaramlikni bir-biriga aralashtirib yuboramiz», — dedi u Sidneydagi matbuot anjumanida.
Avstraliyaning oʻng qanot partiyalari — va Tramp maʼmuriyati — algoritm boʻyicha taklif ham, kengroq qonun loyihasi ham haddan tashqari moderatsiya va tsenzuraga olib kelishi mumkinligini aytmoqda.
Qonun tarafdorlari bunday boʻlmasligini, chunki foydalanuvchilar baribir xohlagan odamlarini kuzatishlari va xohlagan narsalarini joylashtirishlari mumkinligini aytishmoqda. «Agar kattalar manosfera podkastlarini tinglashsa yoki odamlar hukumat haqidagi oʻz qarashlarini joylashtirishsa yoki memlar qilishsa yoki Oyga qoʻnish soxta boʻlgan deyishni xohlashsa — ular buni hech qanday cheklaovsiz davom ettirishlari mumkin», — dedi Uells shu haftada.
Taklif jamoatchilik va onlayn xavfsizlik ekspertlari orasida Avstraliyaning bolalar uchun ijtimoiy tarmoqlarni taqiqlashiga qaraganda ancha kamroq bahslarga sabab boʻlayotganga oʻxshaydi.
Shunga qaramay, asosiy savol shundaki, Avstraliya hozirgacha taqiqni amalga oshirishda qiynalayotgan bir paytda bu siyosatni qanday qilib kuchga kiritadi.
Soʻrovnomalar shuni koʻrsatadiki, taqiqdan oldin ijtimoiy tarmoqlarda boʻlgan bolalarning aksariyati hali ham u yerda va hech qanday jarima solinmagan.
Avstraliya tartibga soluvchi organlari ijtimoiy tarmoqlar taqiqining mumkin boʻlgan buzilishlarini tergov qilmoqda.
YEIning 2023 yilda algoritm nazoratini joriy qilish urinishi — shundan soʻng platformalar faqat kuzatiladiganlar lentasini ishga tushirdi — ogohlantiruvchi misol boʻla oladi.
Ijtimoiy tarmoq kompaniyalarining aytishicha, bu kabi xavfsizlik va nazorat vositalaridan foydalanish koʻrsatkichi past boʻlgan va ular buni foydalanuvchilar oʻz mahsulotlarini hozirgidek afzal koʻrishining isboti sifatida keltiradilar. Ekspertlarning aytishicha, buning sababi bor.
«Platformalar qonun talab qilgan narsani qiladi, lekin shunchalik noqulay shaklda qiladiki, foydalanuvchilar bu imkoniyatdan aslida zavq olishmaydi va sukut boʻyicha berilgan algoritmik tajribada qolishadi», — deb yozdi Raqamli bolalar boʻyicha ARC aʼlochilik markazi tadqiqotchisi Kris Zomer The Conversation nashrida.
Masalan, Instagram’da algoritmni oʻchirish toʻgʻridan-toʻgʻri xabarlarni koʻra olmasligingizni yoki profilingiz va sozlamalaringizga kira olmasligingizni anglatadi. Va ilovadan chiqqaningizda, qaytib kirganingizda u yana algoritm asosidagi lentaga qaytadi.
Bu muammolar mavjud boʻlmagan yagona joy bu Niderlandiyadir. U yerda oʻtgan yili Gollandiya sudi Metani YEIning Raqamli xizmatlar toʻgʻrisidagi qonunini buzgan deb topganidan soʻng vaziyat oʻzgardi.
Meta mart oyida ushbu qarorga qarshi appelyatsiyada yutqazdi, bu Niderlandiyadagi foydalanuvchilar hali ham oʻzlarining asosiy lentalarini nazorat qilish imkoniyatiga ega ekanini anglatadi.
Avstraliya qoidalari hali yakuniy emas, lekin hukumatning aytishicha, faqat kuzatiladiganlar lentasidan foydalanish qiyinroq yoki kamroq funktsional boʻlmasligi kerak, algoritm sozlamalari «aniq» boʻlishi kerak va ular foydalanuvchi ilovani tark etsa ham, uning «aniq tanlovi»siz oʻzgarmasligi kerak.
Avstraliyadagi muvaffaqiyatidan ruhlangan Kontos yendi oʻz kampaniyasini butun dunyo boʻylab olib bormoqda.
«Biz Kanada, Buyuk Britaniya, Avstraliya kabi mamlakatlar onlayn xavfsizlik boʻyicha bir xil fikrda deb hisoblaymiz... Agar ushbu uchta yurisdiktsiya buni amalga oshirsa, bu muhim omilga aylanishi mumkin».
Ularning tajribasi islohotlarni ilhomlantirishga yordam bergan boʻlsa-da, Flinn va Varsha hali ham ularga biroz shubha bilan qarashmoqda.
Varsha Avstraliya kabi mamlakat yirik texnik kompaniyalarni yengishi mumkinligiga ishonish qiyinligini aytadi, shuning uchun u Raqamli gʻamxoʻrlik majburiyati toʻgʻrisidagi qonun loyihasi muvaffaqiyatli boʻlishiga amin emas. Flinnning aytishicha, qonun chiqaruvchilar algoritmni oʻchirish tugmasi nimaga erishishi mumkinligi haqida «real» boʻlishlari kerak: «Oxir-oqibat biz ijtimoiy tarmoqlardan koʻngilochar manba sifatida foydalanamiz».
Shu oy boshida oʻtkazilgan soʻrovnoma shuni koʻrsatdiki, ularning tengdoshlari boʻlmish Z avlodining uchdan ikki qismi ijtimoiy tarmoq algoritmlarini saqlab qoladi — garchi umuman avstraliyaliklarning yarmiga yaqini oʻz algoritmlarini oʻchirib qoʻygan boʻlar edi.
Varsha algoritmni oʻchirish tugmasidan koʻp foydalanishi ehtimoldan yiroq ekanini aytsa-da, u bu imkoniyatga ega ekanligini qadrlaydi.
«Yomon kunimda men hali ham 17 yoshimdagi kabi hamma narsaga taʼsirchanman. Agar yomon kunni boshdan kechirayotgan boʻlsam, bundan voz kechishim mumkinligini bilish menga juda yaxshi his-tuygʻu beradi».