Meta продолжает размещать рекламу, продвигающую материалы с сексуальным насилием над детьми в Индии, — отчет

Meta продолжает размещать рекламу, продвигающую материалы с сексуальным насилием над детьми в Индии, — отчет

Организация Tech Transparency Project (TTP) заявляет, что обнаружила 332 рекламных объявления с CSAM (материалами с сексуальным насилием над детьми), которые транслировались в Facebook и Instagram

Согласно новому отчету американских активистов, за последние 10 месяцев компания Meta разместила сотни оплаченных рекламных объявлений, содержащих созданные искусственным интеллектом изображения сексуального насилия над детьми, в том числе несколько в Индии.

Отчет был опубликован через два месяца после того, как правительство Индии приказало Meta удалить всю рекламу и контент, продвигающие материалы с сексуальным насилием над детьми (CSAM) в Instagram. Это распоряжение последовало за расследованием BBC Eye, которое выявило, что Instagram размещал в Индии оплаченную рекламу, продвигающую CSAM.

Когда BBC обратилась к Meta по поводу этих выводов, компания заявила: «Мы не терпим приложений для раздевания (nudify) или любого вида эксплуатации детей, будь то реальной или созданной ИИ. Эти преступники постоянно меняют тактику, чтобы избежать обнаружения, поэтому мы продолжаем усиливать наши меры по выявлению и пресечению».

В отчете TTP, опубликованном во вторник, говорится, что были выявлены несколько фотографий реальных детей, включая члена европейской королевской семьи, которые использовались в рекламе и затем были изменены с помощью ИИ. Сообщается, что более десятка объявлений появились на платформах Meta даже после того, как TTP предупредила компанию о своих выводах.

Примерно четверть, или 84 объявления, транслировались в Индии, причем 78 из них были опубликованы после распоряжения правительства Индии об удалении CSAM и его встречи с высокопоставленными представителями Meta.

После расследования BBC несколько индийских ведомств, включая Национальную комиссию по защите прав детей и Национальную комиссию по правам человека, заявили, что изучают этот вопрос.

Распространение CSAM является уголовным преступлением в Индии, в то время как политика Meta гласит, что реклама не должна содержать контент, который сексуально эксплуатирует детей или подвергает их опасности.

Однако Бхуван Рибху, основатель Just Rights for Children — сети из более чем 250 организаций, работающих над предотвращением насилия над детьми в Индии, — считает, что этого недостаточно.

«Компании социальных сетей явно нарушают индийские законы, не сообщая о контенте с сексуальным насилием над детьми в индийские правоохранительные органы, как того требуют наши законы о защите детей», — сказал Рибху.

По данным TTP, почти все обнаруженные объявления начинаются с фотографии ребенка, и по мере воспроизведения видео изображение манипулируется ИИ, чтобы показать ребенка, совершающего откровенный сексуальный акт.

TTP описала одно объявление, транслировавшееся в Индии, следующим образом: фотография девочки препубертатного возраста анимирована так, что она совершает откровенный сексуальный акт, с закадровым голосом, который говорит: «Ограничений нет. Все персонажи — реальные люди, и вариантов много. Это тот ИИ, который мужчины используют на самом деле». BBC не видела это объявление.

По данным TTP, это объявление было размещено более чем с 50 различных аккаунтов в Индии в течение двух недель в августе этого года.

«Любой пользователь на наших платформах может пожаловаться на рекламу, если считает, что она нарушает наши правила», — заявили в компании.

TTP сообщила, что пыталась пожаловаться на объявления через собственную систему жалоб Meta и что из 84 объявлений, транслировавшихся в Индии, ей удалось пожаловаться на 55. Meta позволяет жаловаться на рекламу только тогда, когда она активна.

По 43 из них TTP получила ответ: «Мы провели проверку и обнаружили, что это объявление не нарушает наши Рекламные стандарты».

По 11 объявлениям было сообщено, что контент уже удален. По одному объявлению ответ еще не получен.

TTP заявила, что когда она обратилась к Meta за комментарием, все объявления, на которые она пожаловалась, были удалены.

Это повторило то, что произошло во время расследования BBC. Когда BBC использовала систему жалоб Meta, чтобы пожаловаться в Instagram на одно из объявлений с сексуальным насилием над детьми, платформа его не удалила.

Позже, когда BBC обратилась к Meta за комментариями, компания заявила, что уже заблокировала несколько рекламных объявлений и приостановила работу размещавших их аккаунтов. Она сообщила, что в ответ на выводы BBC удалила дополнительные объявления, заблокировала больше аккаунтов и закрыла доступ к URL-адресам другого контента, нарушающего ее правила.

TTP заявила, что подавляющее большинство из 332 обнаруженных ею объявлений направляли пользователей на приложения для генерации изображений или видео с помощью ИИ, в основном от китайских разработчиков.

В отчете утверждается, что реклама этих приложений с использованием изображений сексуального насилия над детьми подразумевает, что их можно использовать для создания или просмотра CSAM.

Meta заявляла, что запрещает внешнее продвижение приложений для раздевания (nudify), которые используют ИИ для создания поддельных обнаженных или сексуально откровенных изображений без согласия.

Один из высокопоставленных офицеров киберполиции Индии, Шикха Гоэль, директор Бюро кибербезопасности в индийском штате Телангана, рассказала BBC, что одна из самых больших проблем с CSAM заключается в «легкости, с которой пользователи могут переходить с одной платформы на другую, что затрудняет их поимку».

«Мы надеемся, что правительство рассмотрит этот вопрос в ходе своих последних контактов с посредниками социальных сетей и даст им соответствующие указания», — добавила она.

Объявления, обнаруженные BBC в ходе расследования, также направляли пользователей в другое приложение — мессенджер Telegram, где они могли купить эти материалы всего за 99 рупий [1,05 доллара США; 0,80 фунта стерлингов].

Telegram сообщил BBC в то время, что использует как автоматическую, так и человеческую модерацию для борьбы с CSAM, и что он «практически ликвидировал публичное распространение CSAM» на своей платформе.

Реклама на платформах Meta публикуется только после предварительного одобрения ее технологией модерации. Ее система проверки опирается в основном на автоматизацию и предназначена для проверки изображений, видео, текста и аудио, а также того, на кого ориентирована реклама и куда ведут ссылки пользователей.

После расследования BBC компания Meta заявила, что «ни одна система не совершенна» и что «решительно настроенные преступники продолжают пытаться эксплуатировать нашу платформу, в том числе через наши рекламные системы».

Однако TTP обнаружила, что несколько объявлений с сексуальным насилием над детьми были размещены собственными рекламными агентствами-партнерами Meta в Китае.

Эти партнеры, известные как «реселлеры», направляют китайскую рекламу на миллиарды долларов в Facebook и Instagram. Партнеры не ответили на вопросы TTP.

TTP заявила, что новые объявления продолжали появляться даже после того, как она ознакомила Meta с выводами своего отчета. Она поделилась подробностями о 17 объявлениях, включая 11, которые транслировались в Индии 1–2 сентября.