Заҳарли алгоритмлар уларни қўйиб юбормади — энди Австралия уларни ўчириш тугмасини жорий этмоқчи

Заҳарли алгоритмлар ularni қўйиб юбормасди – енди Австралия ularni ўчириб қўйиш тугмасини жорий этмоқчи

Варша Яжман 13 ёшида ижтимоий тармоқларда рўйхатдан ўтганида, аллақачон ўз ташқи кўринишидан уялар эди.

Унинг лентаси амалга ошириб бўлмайдиган ваъдаларни берадиган чексиз машғулот видеоларига тўлиб кетганди. Экранда у ҳеч қачон учратмаган қизлар уни хавфли калория чақириқларида иштирок этишга ундарди. Бошқалар эса бузуқ бир мусобақанинг бир қисми сифатида ўз профилларида бўйи ва вазнини, ҳатто неча марта шифохонага ётқизилганини очиқчасига кўрсатишарди.

Ҳар куни кечқурун ухлаб қолишдан олдин Варша онлайндаги нотаниш одамнинг ўша куни еган ҳамма нарсасини видеога олганини томоша қиларди.

«Мен: “Менга ейишнинг ҳожати йўқ. Шунчаки бошқаларнинг ейишини томоша қилишим мумкин”, деб ўйлардим», — дейди Варша BBC’га.

«Мен жуда чуқур “қуён уялари”га тушиб қолганимни сезардим... гўё чиқишга қанчалик ҳаракат қилманг, барибир чиқа олмасдингиз».

Ҳозирда 24 ёшда бўлган ва анорексиядан соғайиб бораётган Варшанинг айтишича, у барча хавфсизлик созламаларини ёққанига ва сўзларнинг кенг рўйхатини блоклаганига қарамай, ижтимоий тармоқлар ҳали ҳам унга вазн йўқотиш ҳақидаги контентни узатмоқда.

Австралия ҳукумати шу ҳафта парламентга тақдим этилган ва йирик технология компанияларини нишонга олган янги қонунлар тўплами билан у каби одамларни ҳимоя қилишга ҳаракат қилаётганини айтмоқда.

Таклиф этилаётган ўзгаришларнинг асосий хусусияти алгоритмни ўчириш тугмаси бўлиб, у ижтимоий тармоқ платформаларидан фойдаланувчиларга тавсия этилган контентни ўчириб қўйиш имкониятини беришни талаб қилади. Амалда бу фақат сиз кузатадиган аккаунтларнинг постларини кўришни англатади.

Бу ҳукумат томонидан қилинган биринчи уриниш эмас, лекин алгоритмлар устидан мавжуд назорат воситалари кўпинча вақтинчалик ва иловаларнинг функционаллигини камайтириши мумкин.

Австралия бунинг олдини олиш учун ўз қонунлари янадаเข้ม stricter (қаттиқроқ) бўлишини хоҳлашини айтмоқда. Шунингдек, у онлайн хизматларга қонуний ғамхўрлик қилиш мажбуриятини юклайдиган янги чора-тадбирлар австралияликларни бахтлироқ ва соғломроқ қилишига умид қилмоқда.

Бироқ, танқидчилар Бош вазир Энтони Албаниз ҳукумати йирик техник компанияларга қарши курашда ўзи уддалай оладиганидан ортиғини ўз зиммасига олганидан хавотирда, Трамп маъмуриятини ўз ичига олган бошқа тарафлар эса бу ислоҳотлар сўз эркинлигига таҳдид солади деб ҳисоблайди.

Флинн Мартин алгоритмик спиралга тортилиб кетиш қандай бўлишини билади.

Тахминан тўрт йил олдин, ўзини аёлларни ёмон кўрувчи деб атайдиган инфлюенсер Эндрю Тейт ва бошқа «маносфера» намояндалари ўшанда 20 ёшда бўлган йигитнинг ижтимоий тармоқлардаги лентасини эгаллаб ола бошлади.

Ўша пайтда, кейинчалик биполяр бузилиш ташхиси қўйилган Флинн ўзига ишончсиз, ҳаётидан норози ва руҳий саломатлиги билан курашаётган эди. Унинг айтишича, уни бу риторика ўзига жалб қилган.

У тез орада Австралияда иккита видеоси билан вирусли бўлиб кетди: бирида у гетеросексуал оқсоч эркак бўлиш қабул қилиниши мумкинми ёки йўқлиги ҳақида жаҳл билан гапирган, бошқасида эса у учрашувдаги қизнинг музлатилган йогурт буюртмасини танқид қилган.

«Сиз ўзингизни гўёки ахборот кўпигида кўрасиз... Бунга берилиб кетиш жуда осон», — дейди у BBC’га.

«Мен ҳақиқатан ҳам биз ушбу матрицада яшаётганимиз, бизга қарши ишлаб чиқилган жуда салбий тизимга эга эканимиз ҳақидаги ғояга ишондим. Ва ундан чиқишнинг ягона йўли бу альфа-еркак образига айланиш эди».

Мельбурнлик бу йигит фақат психоз даври ва шифохонада ётганидан кейингина маносфера таъсиридан чиқа олди.

Энди, у ўзининг ўша версиясига орқага қараб қараш қийинлигини айтади: «Бироз уят ва ҳижолатчилик бўлса-да... Ўйлайманки, ўша ёшроқ йигитга нисбатан бироз ҳамдардлик ҳам бор».

Флинн ҳам, Варша ҳам ижтимоий тармоқлар уларнинг ҳаётидаги энг ёмон даврнинг ягона сабаби эмаслигини, аммо бу муҳим омил бўлганига ишонишларини айтишади.

Кўпчилик бошқа одамларда ҳам ўзлари ҳеч қачон қидирмаган ва кўришни хоҳламаган ижтимоий тармоқ контентига дуч келганликлари ҳақида шунга ўхшаш ҳикоялар бор ва бу платформаларни шакллантирадиган алгоритмлар фойдаланувчиларга зарар етказмоқда деган гумонлар жуда азалдан мавжуд.

Ижтимоий тармоқ компаниялари хавф-хатарлар ошириб юборилаётганини ва улар аллақачон самарали хавфсизлик воситаларини таклиф қилаётганини айтмоқда.

Бироқ, бутун дунё бўйлаб ўтказилган тадқиқотлар бошқача манзарани кўрсатмоқда.

Тадқиқотлар шуни кўрсатдики, ижтимоий тармоқлардан фойдаланиш мияда қимор ўйинлари ва моддаларга қарамликка ўхшаш реакцияни келтириб чиқаради; алгоритмлар — кўпинча сўралмаса ҳам — фойдаланувчиларнинг руҳий саломатлигига зарар етказадиган контентни узатади; ва улар дезинформация тарқатади ҳамда қутбланишни чуқурлаштиради, бу эса реал ҳаётдаги зўравонликларга ҳисса қўшади.

Суд жараёнлари ва фош қилувчилар ҳам ушбу компаниялар хавф-хатарларни билишларини ва технология жалб қилиш ҳамда фойдани ошириши сабабли уларга кўз юмишга тайёр эканликларини даъво қилишган.

«Оқибатда улар одамларда ғазаб, қўрқув, истак, шаҳват ёки ишончсизлик каби кучли ҳиссиётларни уйғотадиган ёки ғазабнок контентни тарғиб қилади, бу нарса нима бўлишидан қатъи назар, бизни лентани варақлашда давом этишимизга мажбур қилади», — дейди Шанель Контос BBC’га.

Университетда ушбу муаммони ўрганаётганда, Австралияда жинсий розилик таълими стандартларини ўзгартиришга ёрдам берган фаол ислоҳотлар учун кампания бошлади.

«Fix Our Feeds» кампанияси тавсия этиладиган алгоритмларни сукут бўйича ўчириб қўйишни, фойдаланувчиларга эса уларни ёқиш имкониятини беришни талаб қилди.

Контос 2010 йилларнинг бошларидаги ижтимоий тармоқларга ностальгик қайтишни тасаввур қилди, ўшанда ленталар дўстлар ёки фойдаланувчилар ҳақиқатан ҳам кузатадиган одамларнинг постлари билан тўла эди ва улар чекли эди.

Унинг петициясини 15 000 дан ортиқ одам имзолади ва кампания собиқ икки бош вазир, бир нечта парламент аъзолари, таниқли шахслар, руҳий саломатлик ҳимоячилари ва онлайн хавфсизлик экспертлари томонидан ҳам қўллаб-қувватланди.

Сентябрь ойида ҳукумат Контос кампаниясини қўллаб-қувватлаган австралияликларни эшитганини айтди ва ғоянинг ўз версиясини эълон қилди: йирик техник компанияларни алгоритмни ўчириш тугмасини қўшишга мажбур қилиш — аммо уни автоматик равишда ўчириб қўйиш даражасигача бормаслик.

«Бу ҳукуматга назорат бериш ҳақида эмас, бу одамларга назорат бериш ҳақида», — деди Албаниз.

«Агар одамлар бемаъни нарсаларни варақлашни хоҳлашса... бу майли, бу уларнинг ўз иши».

Бу сиёсат ҳукуматнинг «Raqamli g‘amxo‘rlик мажбурияти» (Digital Duty of Care) тўғрисидаги қонун лойиҳасига киритилган бўлиб, у онлайн хизматлардан — жумладан, ижтимоий тармоқ компаниялари, ўйин платформалари, чатботлар ва бошқалардан — «оқилона амалга оширилиши мумкин бўлган даражада хавфсиз онлайн муҳитни таъминлашни» талаб қилади.

Болаларни «зарарли» материаллар ва дизайн хусусиятларидан — масалан, порнография ҳамда овқатланиш бузилишини ёки аёлларга нисбатан зарарли муносабатларни рағбатлантирадиган контентдан — ҳимоя қилиш керак бўлади, катталар эса «жиддий зарарли» материал ва хатти-ҳаракатлардан, яъни ноқонуний контентнинг анча тор категoриясидан ҳимояга муҳтож бўлади. Қонунбузарликлар 100 миллион австралия долларигача (52 миллион фунт стерлинг, 70 миллион доллар) жаримага олиб келиши мумкин.

«Рақамли ғамхўрлик мажбурияти ижтимоий тармоқлардан фойдаланишнинг минимал ёши тўғрисидаги қонунга нисбатан юзага келадиган кўплаб эътирозларга жавоб беради, чунки у анча кенгроқдир; у сиздаги барча онлайн хизматларни қамраб олади ва масъулият юкини жабрланувчиларнинг елкасидан австралиялик фойдаланувчилардан пул ишлашга интилаётган йирик техник операторлар елкасига ўтказади», — деди Алоқа вазири Аника Уэллс BBC’га.

Йирик техник компаниялар вазминлик билан жавоб қайтаришди. Instagram’га эгалик қилувчи Meta, Snap, TikTok, X ва Google компаниялари BBC’нинг шарҳ бериш сўровларини рад этишди ва қонунчилик бўйича ошкора баёнот беришмади.

Эълондан сўнг Instagram раҳбари Адам Моссери алгоритмсиз ленталар фойдаланувчилар дўстларидан камроқ пост кўришини англатади деб таъкидлади ва ўз иловасини қарамлик келтириб чиқаради деб ҳисобламаслигини айтди — гарчи яқинда АҚШ суди аъзолари бошқача қарор чиқарган бўлса-да.

«Ўйлайманки, биз сўзлашув тилида "қарам бўлиб қолдим" сўзини ишлатишимизни — масалан, "Мен бу шоуга қарам бўлиб қолдим ва уни тўхтовсиз томоша қиляпман" — ва клиник қарамликни бир-бирига аралаштириб юборамиз», — деди у Сиднейдаги матбуот анжуманида.

Австралиянинг ўнг қанот партиялари — ва Трамп маъмурияти — алгоритм бўйича таклиф ҳам, кенгроқ қонун лойиҳаси ҳам ҳаддан ташқари модерация ва цензурага олиб келиши мумкинлигини айтмоқда.

Қонун тарафдорлари бундай бўлмаслигини, чунки фойдаланувчилар барибир хоҳлаган одамларини кузатишлари ва хоҳлаган нарсаларини жойлаштиришлари мумкинлигини айтишмоқда. «Агар катталар маносфера подкастларини тинглашса ёки одамлар ҳукумат ҳақидаги ўз қарашларини жойлаштиришса ёки мемлар қилишса ёки Ойга қўниш сохта бўлган дейишни хоҳлашса — улар буни ҳеч қандай чеклаовсиз давом эттиришлари мумкин», — деди Уэллс шу ҳафтада.

Таклиф жамоатчилик ва онлайн хавфсизлик экспертлари орасида Австралиянинг болалар учун ижтимоий тармоқларни тақиқлашига қараганда анча камроқ баҳсларга сабаб бўлаётганга ўхшайди.

Шунга қарамай, асосий савол шундаки, Австралия ҳозиргача тақиқни амалга оширишда қийналаётган бир пайтда бу сиёсатни қандай қилиб кучга киритади.

Сўровномалар шуни кўрсатадики, тақиқдан олдин ижтимоий тармоқларда бўлган болаларнинг аксарияти ҳали ҳам у ерда ва ҳеч қандай жарима солинмаган.

Австралия тартибга солувчи органлари ижтимоий тармоқлар тақиқининг мумкин бўлган бузилишларини тергов қилмоқда.

ЕИнинг 2023 йилда алгоритм назоратини жорий қилиш уриниши — шундан сўнг платформалар фақат кузатиладиганлар лентасини ишга туширди — огоҳлантирувчи мисол бўла олади.

Ижтимоий тармоқ компанияларининг айтишича, бу каби хавфсизлик ва назорат воситаларидан фойдаланиш кўрсаткичи паст бўлган ва улар буни фойдаланувчилар ўз маҳсулотларини ҳозиргидек афзал кўришининг исботи сифатида келтирадилар. Экспертларнинг айтишича, бунинг сабаби бор.

«Платформалар қонун талаб қилган нарсани қилади, лекин шунчалик ноқулай шаклда қиладики, фойдаланувчилар бу имкониятдан аслида завқ олишмайди ва сукут бўйича берилган алгоритмик тажрибада қолишади», — деб ёзди Рақамли болалар бўйича ARC аълочилик маркази тадқиқотчиси Крис Зомер The Conversation нашрида.

Масалан, Instagram’да алгоритмни ўчириш тўғридан-тўғри хабарларни кўра олмаслигингизни ёки профилингиз ва созламаларингизга кира олмаслигингизни англатади. Ва иловадан чиққанингизда, қайтиб кирганингизда у яна алгоритм асосидаги лентага қайтади.

Бу муаммолар мавжуд бўлмаган ягона жой бу Нидерландиядир. У ерда ўтган йили Голландия суди Метани ЕИнинг Рақамли хизматлар тўғрисидаги қонунини бузган деб топганидан сўнг вазият ўзгарди.

Meta март ойида ушбу қарорга қарши аппеляцияда ютқазди, бу Нидерландиядаги фойдаланувчилар ҳали ҳам ўзларининг асосий ленталарини назорат қилиш имкониятига эга эканини англатади.

Австралия қоидалари ҳали якуний эмас, лекин ҳукуматнинг айтишича, фақат кузатиладиганлар лентасидан фойдаланиш қийинроқ ёки камроқ функционал бўлмаслиги керак, алгоритм созламалари «аниқ» бўлиши керак ва улар фойдаланувчи иловани тарк этса ҳам, унинг «аниқ танлови»сиз ўзгармаслиги керак.

Австралиядаги муваффақиятидан руҳланган Контос енди ўз кампаниясини бутун дунё бўйлаб олиб бормоқда.

«Биз Канада, Буюк Британия, Австралия каби мамлакатлар онлайн хавфсизлик бўйича бир хил фикрда деб ҳисоблаймиз... Агар ушбу учта юрисдикция буни амалга оширса, бу муҳим омилга айланиши мумкин».

Уларнинг тажрибаси ислоҳотларни илҳомлантиришга ёрдам берган бўлса-да, Флинн ва Варша ҳали ҳам уларга бироз шубҳа билан қарашмоқда.

Варша Австралия каби мамлакат йирик техник компанияларни енгиши мумкинлигига ишониш қийинлигини айтади, шунинг учун у Рақамли ғамхўрлик мажбурияти тўғрисидаги қонун лойиҳаси муваффақиятли бўлишига амин эмас. Флинннинг айтишича, қонун чиқарувчилар алгоритмни ўчириш тугмаси нимага эришиши мумкинлиги ҳақида «реал» бўлишлари керак: «Охир-оқибат биз ижтимоий тармоқлардан кўнгилочар манба сифатида фойдаланамиз».

Шу ой бошида ўтказилган сўровнома шуни кўрсатдики, уларнинг тенгдошлари бўлмиш Z авлодининг учдан икки қисми ижтимоий тармоқ алгоритмларини сақлаб қолади — гарчи умуман австралияликларнинг ярмига яқини ўз алгоритмларини ўчириб қўйган бўлар эди.

Варша алгоритмни ўчириш тугмасидан кўп фойдаланиши эҳтимолдан йироқ эканини айтса-да, у бу имкониятга эга эканлигини қадрлайди.

«Ёмон кунимда мен ҳали ҳам 17 ёшимдаги каби ҳамма нарсага таъсирчанман. Агар ёмон кунни бошдан кечираётган бўлсам, бундан воз кечишим мумкинлигини билиш менга жуда яхши ҳис-туйғу беради».