Токсичные алгоритмы не отпускали их — теперь Австралия хочет кнопку отключения

Токсичные алгоритмы не отпускали их — теперь Австралия хочет внедрить кнопку отключения

Варше Яджман было всего 13 лет, когда она зарегистрировалась в социальных сетях, уже тогда переживая из-за своей внешности.

Ее ленты заполонили бесконечные видеоролики с тренировками, обещавшие невозможные результаты. На экране девушки, которых она никогда не встречала, призывали ее участвовать в опасных челенджах по сжиганию калорий. Другие открыто публиковали в своих профилях информацию о своем росте и весе — и даже о том, сколько раз их госпитализировали, — сделав это частью искаженного соревнования.

Каждый вечер перед сном Варша смотрела, как незнакомый человек в сети записывает все, что он съел за день.

«Я думала: „Мне не нужно есть. Я могу просто смотреть, как едят другие“», — рассказывает Варша в интервью Би-би-си.

«Я затягивала себя в эти глубокие кроличьи норы... казалось, как бы сильно ты ни пытался вырваться, у тебя ничего не выйдет».

Сейчас Варше 24 года, она восстанавливается после анорексии и говорит, что социальные сети до сих пор предлагают ей контент о похудении — хотя у нее включены все настройки безопасности и заблокирован внушительный список слов.

Правительство Австралии заявляет, что пытается защитить таких людей, как она, с помощью нового пакета законов, направленных против гигантов IT-индустрии и внесенных в парламент на этой неделе.

Главная особенность предлагаемых изменений — переключатель алгоритмов, который обяжет платформы социальных сетей давать пользователям возможность отключать рекомендуемый контент. На практике это означало бы просмотр публикаций только от тех аккаунтов, на которые вы подписаны.

Это не первая попытка государства сделать подобное, однако существующие механизмы контроля над алгоритмами часто носят временный характер и могут снижать функциональность приложений.

Австралия заявляет, что хочет сделать свои законы более строгими, чтобы предотвратить это. Власти также надеются, что новые меры, возлагающие юридическую обязанность по обеспечению безопасности на онлайн-сервисы, сделают австралийцев счастливее и здоровее.

Критики, однако, опасаются, что правительство премьер-министра Энтони Албаниза взяло на себя непосильную задачу в борьбе с бигтехом, в то время как другие, включая администрацию Трампа, утверждают, что реформы представляют угрозу для свободы слова.

Флинн Мартин знает, каково это — оказаться затянутым в алгоритмическую спираль.

Около четырех лет назад инфлюенсер Эндрю Тейт, называющий себя мизогином, и другие фигуры маносферы начали доминировать в лентах социальных сетей тогда еще 20-летнего парня.

В то время Флинн, у которого позже диагностировали биполярное расстройство, был неуверен в себе, разочарован своей жизнью и боролся с ментальными проблемами. По его словам, его привлекла эта риторика.

Вскоре он стал вирусным в Австралии благодаря двум видеороликам: в одном он произнес тираду о том, допустимо ли быть гетеросексуальным белым мужчиной, а в другом раскритиковал заказ замороженного йогурта, сделанный его девушкой на свидании.

«Ты оказываешься в чем-то вроде эхо-камеры... В это легко втянуться», — рассказывает он Би-би-си.

«Я действительно поверил в идею, что мы живем в эдакой матрице, что существует крайне негативная система, созданная против тебя. И единственный способ вырваться из нее — стать этим персонажем-альфа-самцом».

Жителя Мельбурна вытащили из маносферы только после периода психоза и пребывания в больнице.

Сейчас, по его словам, ему трудно оглядываться на ту версию себя: «Хотя есть немного стыда и неловкости... думаю, есть и немного сочувствия к тому более молодому человеку».

И Флинн, и Варша говорят, что социальные сети не были единственной причиной худшего периода в их жизни, но считают, что они сыграли важную роль.

У многих других есть похожие истории о том, как они сталкивались в социальных сетях с контентом, который никогда не искали и не хотели видеть, — и давно существуют подозрения, что алгоритмы, формирующие эти платформы, наносят вред пользователям.

Компании социальных сетей заявляют, что риски преувеличены и что они уже предлагают эффективные инструменты безопасности.

Однако исследования по всему миру указывают на иную картину.

Ученые установили, что использование социальных сетей вызывает реакцию мозга, аналогичную азартным играм и химической зависимости; что алгоритмы — часто без соответствующего запроса — продвигают контент, вредящий психическому здоровью пользователей; и что они распространяют дезинформацию и углубляют поляризацию, способствуя насилию в реальной жизни.

Судебные процессы и осведомители также выдвигали заявления о том, что эти компании знают об опасностях и готовы игнорировать их, поскольку технология повышает вовлеченность и прибыль.

«В результате они продвигают контент, который возмутителен или вызывает у людей сильные эмоции — будь то anger, страх, желание, похоть или неуверенность в себе, что бы это ни было, это заставит нас продолжать листать ленту», — рассказывает Би-би-си Шанель Контос.

Изучая эту проблему в университете, активистка, помогшая изменить стандарты обучения половому воспитанию и согласию в Австралии, начала кампанию за реформы.

Кампания «Fix Our Feeds» призывала отключать алгоритмы рекомендаций по умолчанию, предоставляя пользователям возможность включать их по желанию.

Контос представляла себе ностальгическое возвращение к социальным сетям начала 2010-х годов, когда ленты были заполнены публикациями друзей или людей, на которых пользователи действительно были подписаны, и не были бесконечными.

Более 15 000 человек подписали ее петицию, и кампания также получила поддержку двух бывших премьер-министров, нескольких членов парламента, известных figures, защитников mental health и экспертов по онлайн-безопасности.

В сентябре правительство заявило, что услышало австралийцев, поддержавших кампанию Контос, и объявило о собственной версии этой идеи: принудить бигтех добавить переключатель алгоритмов, но не доходя до того, чтобы делать его автоматически отключенным.

«Речь идет не о предоставлении контроля правительству, а о предоставлении контроля людям», — сказал Албаниз.

«Если люди хотят бесконечно листать мрачные новости... это нормально, это их право».

Инициатива вписывается в правительственный законопроект о цифровой обязанности по соблюдению предосторожности (Digital Duty of Care), который потребует от онлайн-сервисов — включая компании социальных сетей, игровые платформы, чат-боты и другие — «обеспечивать, насколько это обоснованно практически осуществимо, безопасную онлайн-среду».

Дети должны быть защищены от «вредных» материалов и дизайнерских решений — таких как порнография и контент, побуждающий к расстройствам пищевого поведения или формирующий вредное отношение к женщинам, — в то время как взрослым потребуется защита от «серьезно вредных» материалов и поведения, гораздо более узкой категории нелегального контента. Нарушения могут повлечь за собой штрафы в размере до 100 млн австралийских долларов (52 млн фунтов стерлингов, 70 млн долларов США).

«Цифровая обязанность по соблюдению предосторожности отвечает на многие вопросы „а как же...“, возникающие в связи с законом о минимальном возрасте для социальных сетей, потому что она охватывает намного больше; она затрагивает все онлайн-сервисы и перекладывает бремя ответственности с плеч жертв на плечи операторов крупного техсектора, которые стремятся зарабатывать на австралийских пользователях», — заявила Би-би-си министр связи Аника Уэллс.

Крупные технологические компании отреагировали сдержанно. Meta, Snap, TikTok, X и Google, владеющая YouTube, отклонили запросы Би-би-си о комментариях и публично не комментировали данный законопроект.

После объявления глава Instagram Адам Моссери заявил, что неалгоритмические ленты приведут к тому, что пользователи будут видеть меньше публикаций от друзей, и добавил, что не считает свое приложение вызывающим зависимость — хотя присяжные в США недавно постановили иначе.

«Я думаю, мы смешиваем то, как мы обиходно используем слово „зависим“ — например, „я зависим от этого шоу и смотрю его запоем“, — и клиническую зависимость», — заявил он на пресс-брифинге в Сиднее.

Правые партии Австралии — и администрация Трампа — заявляют, что как предложение по алгоритмам, так и законопроект в целом могут привести к чрезмерной модерации и цензуре.

Сторонники закона утверждают, что этого не произойдет, поскольку пользователи по-прежнему смогут подписываться на кого угодно и публиковать все, что захотят. «Если взрослые слушают подкасты маносферы, или люди публикуют свои взгляды на правительство, или делают мемы, или хотят сказать, что высадка на Луну была фейком — они могут продолжать делать это без ограничений», — заявила Уэллс на этой неделе.

Это предложение вызывает гораздо меньше разногласий среди общественности и экспертов по онлайн-безопасности, чем австралийский запрет на социальные сети для детей.

Тем не менее, главный вопрос заключается в том, как Австралия будет обеспечивать соблюдение этой политики, учитывая, что до сих пор ей с трудом удавалось обеспечивать соблюдение запрета.

Опросы показывают, что большинство детей, пользовавшихся социальными сетями до запрета, продолжают делать это, и никаких штрафов выписано не было.

Австралийские регуляторы расследуют возможные нарушения запрета на социальные сети.

Попытка ЕС ввести контроль над алгоритмами в 2023 году — после которой платформы запустили ленты, состоящие только из подписок, — служит предупреждением.

Компании социальных сетей заявили, что востребованность таких инструментов безопасности и контроля оказалась низкой, и приводят это в качестве доказательства того, что пользователи предпочитают их продукты в их текущем виде. Эксперты говорят, что для этого есть причина.

«Платформы делают то, чего требует закон, но настолько неудобным образом, что пользователи не получают удовольствия от этой опции и остаются с алгоритмическим режимом по умолчанию», — написал в The Conversation исследователь Крис Зомер из Центра передового опыта ARC по вопросам цифрового ребенка.

В Instagram, например, отключение алгоритма означает, что вы не можете видеть личные сообщения или получить доступ к своему профилю и настройкам. И когда вы закрываете приложение, при повторном входе оно возвращается к алгоритмической ленте.

Единственное место, где этих проблем не существует, — Нидерланды. Там ситуация изменилась после того, как голландский суд в прошлом году признал компании Meta нарушившей Закон ЕС о цифровых услугах.

Meta проиграла апелляцию на это решение в марте, а это означает, что пользователи в Нидерландах по-прежнему сохраняют контроль над своими главными лентами.

Правила Австралии еще не окончательны, но правительство заявляет, что ленты, состоящие только из подписок, не должны быть сложнее в использовании или менее функциональными, настройки алгоритмов должны быть «очевидными», и они не должны меняться без «явного выбора» пользователя, даже если он закрывает приложение.

Воодушевленная своим успехом в Австралии, Контос теперь выводит свою кампанию на международный уровень.

«Мы чувствуем, что Канада, Великобритания и Австралия очень едины в вопросах онлайн-безопасности... И если эти три юрисдикции сделают это, это может стать вопросом достижения критической массы».

Хотя подобный личный опыт помог вдохновить реформы, и Флинн, и Варша сохраняют некоторую скептичность в отношении них.

Варша говорит, что ей трудно поверить, что такая страна, как Австралия, может одолеть бигтех, поэтому она не уверена, что законопроект Digital Duty of Care увенчается успехом. Флинн отмечает, что законодатели должны «реалистично» оценивать то, чего может достичь переключатель алгоритмов: «В конце концов, мы используем социальные сети как форму развлечения».

Опрос, проведенный ранее в этом месяце, показал, что две трети их сверстников из поколения Z сохранили бы алгоритмы социальных сетей — хотя почти половина австралийцев в целом отключили бы свои.

И хотя Варша говорит, что вряд ли будет часто использовать переключатель алгоритмов, она ценит сам факт наличия такого выбора.

«В плохой день я все еще уязвима для всего того, чему была подвержена в 17 лет. Знание того, что, если у меня плохой день, я могу отказаться от этого, заставляет меня чувствовать себя действительно хорошо».