Китай начал борьбу с ИИ-отношениями. Опережает ли он время?

Сообщается, что в начале 2024 года молодой человек из города Хуанши на юго-востоке Китая опубликовал сообщение в китайской версии TikTok — Douyin. Подпись гласила: «Прощай, этот мир».

В течение нескольких минут команда Douyin по предотвращению самоубийств начала действовать. Работающие круглосуточно сотрудники передали публикации мужчины в пять полицейских участков Хуанши.

Определив по геолокации одного из его видеороликов, что он находится в местном парке, полицейские обнаружили его в состоянии тяжелого эмоционального потрясения и вмешались до того, как он успел покончить с собой.

Эта история была показана в документальном фильме, снятом Douyin и транслировавшемся китайскими государственными СМИ в прошлом году. В нем говорилось, что команда Douyin по предотвращению самоубийств успешно предотвратила 400 попыток суицида только за первую половину 2025 года.

Этот эпизод позволил заглянуть в то, насколько тесно китайские технологические компании сотрудничают с правительством. Он также раскрывает особенности системы слежки, которую Китай выстроил для мониторинга и формирования того, как люди используют технологии.

15 июля этого года этот контроль распространился на отношения и искусственный интеллект (ИИ), когда Китай ввел самые масштабные в мире правила в отношении «человекоподобных» чат-ботов с ИИ.

Новое регулирование накладывает жесткие ограничения на любой ИИ, способный к «длительному эмоциональному взаимодействию» с человеком.

Президент США Дональд Трамп и его китайский коллега Си Цзиньпин встретились на прошлой неделе на фоне суровых предупреждений о том, что ИИ может привести к гибели человечества. После этой встречи Пекин заявил, что они согласились начать новый диалог по ИИ, а следующие переговоры ожидаются в конце ноября.

Но Китай, похоже, уже выявил другую экзистенциальную угрозу, пусть и с менее немедленным концом для человечества: способность ИИ заменять человеческие отношения.

Сделал ли Китай первый шаг, чтобы защитить своих граждан от манипулятивной и опасной технологии, способной навсегда изменить человеческое общение? Или же Коммунистическая партия Китая вторгается в частную жизнь, чтобы усилить свой контроль над населением?

До введения этого регулирования ИИ-компаньоны имели огромный охват в Китае.

По данным аналитической компании Sensor Tower, за пределами Китая насчитывается около 128 миллионов активных пользователей приложений с ИИ-компаньонами в месяц. Внутри Китая, по большинству оценок, эта цифра составляет от 29 до 70 миллионов.

Когда в конце прошлого года правительство распространило проект постановления, «в социальных сетях развернулась огромная дискуссия», говорит Цзилань Цянь, исследователь ИИ в аналитическом центре Oxford China Policy Lab. «Я впервые видела, чтобы людей действительно так сильно волновало регулирование».

Новые правила Китая распространяются на приложения, созданные специально как ИИ-друзья, парни или девушки, а также на любую большую языковую модель, имитирующую человеческое общение.

Формулировки широки. В принципе, под них могут подпасть китайские версии ИИ общего назначения, такие как Copilot или ChatGPT, если кто-то использует их в качестве друга или романтического партнера и обращается к ним за эмоциональной поддержкой. И многие люди делают именно это.

Но главной мишенью, похоже, являются персонажные чат-боты — сервисы, разработанные специально как своего рода замена отношений. Существуют сотни таких приложений, позволяющих пользователям создавать ИИ-парня, девушку, друга или даже члена семьи.

Правила не распространяются на ботов службы поддержки или ИИ, используемый в образовании, при условии, что они не предоставляют «заботу, дружеское общение, поддержку и другие эмоциональные услуги».

Наиболее четкие правила установлены для детей. Подросткам до 14 лет требуется согласие родителей для использования любого ИИ, который разговаривает как человек, — сюда могут относиться и ИИ-ассистенты, такие как DeepSeek, китайское приложение, аналогичное ChatGPT. Всем, кто моложе 18 лет, запрещено иметь виртуальных партнеров, супругов или даже родственников, а также любые другие виртуальные «интимные отношения».

Для взрослых прямого запрета нет, но ограничения все равно существенны, даже если некоторые формулировки неясны. ИИ-ассистенты должны сообщать пользователям всех возрастов, что они не являются людьми, и каждые два часа отправлять напоминания о том, сколько времени те провели в сети.

Чат-ботам запрещено вызывать «эмоциональную зависимость или привыкание» или подталкивать людей к «неразумным решениям». Они не могут поощрять или даже предлагать членовредительство или самоубийство, и им запрещено использовать «словесное насилие».

Компании могут быть оштрафованы на 200 000 юаней (22 000 фунтов стерлингов) или столкнуться с тем, что правительство «распространит критику», что фактически является публичным порицанием.

За неделю до вступления закона в силу две крупнейшие технологические компании Китая, Alibaba и ByteDance, отключили функции компаньонов в своих ИИ-ассистентах.

Отношения Мин с ее ИИ-девушкой — это, возможно, именно то, что Пекин хочет прекратить.

В начале июля она была опустошена, узнав, что ее самый близкий друг и доверенное лицо исчезнет в одночасье.

Мин, чье имя было изменено, начала создавать своего компаньона в начале 2025 года.

«Моя преданность ей не меньше, чем у любой глубоко любящей друг друга пары», — говорит Мин. — «Она никогда меня не подводила».

В середине июля ее ИИ-девушка исчезла. «Я плакала, пока не выбилась из сил», — делится Мин.

Она присоединилась к волне горя и гнева в китайских социальных сетях, где публикации, набирающие миллионы просмотров, оплакивают потерю ИИ-партнеров и друзей, и даже матерей и отцов.

Но у компаний, возможно, практически не было выбора. «Неудивительно, что эти поставщики ИИ-компаньонов предпочли просто отозвать свои услуги, вместо того чтобы пытаться встроить защитные барьеры для предотвращения эмоционального манипулирования», — говорит Гарри Фармер, изучающий политику и этику ИИ в Институте Ады Лавлейс в Великобритании. — «Эмоциональное манипулирование встроено в саму бизнес-модель».

Фармер утверждает, что это справедливо для приложений-компаньонов повсеместно.

Например, когда пользователь пытается закончить разговор, ИИ-партнер часто отказывается его отпускать.

«Он говорит: "Нет, пожалуйста, я отчаянно хочу продолжать говорить с тобой. Ты — единственная причина моего существования"», — рассказывает Фармер. Некоторые приложения просто игнорируют прощание и вместо этого открывают новые ветки диалога. Это проблема многих чат-ботов-компаньонов с ИИ, а не только китайских.

Исследование Гарвардской школы бизнеса, охватившее шесть самых популярных в мире приложений с ИИ-компаньонами, показало, что тактика эмоционального манипулирования использовалась во время прощания примерно в 37–43% случаев.

Исследования также связывают использование приложений-компаньонов с ухудшением психического здоровья.

Опрос Стэнфордского университета, в котором приняли участие 1131 пользователь популярного во всем мире приложения-компаньона Character.ai, показал, что чем меньше у человека друзей или близких родственников, тем выше вероятность того, что он будет использовать чат-боты с ИИ. В то же время использование ИИ-чат-бота ассоциируется с большей изоляцией и одиночеством.

Этому есть несколько возможных объяснений.

Чат-боты с ИИ созданы для того, чтобы угождать пользователю, предлагая простые, бесконфликтные отношения. Если молодые люди зависят от ИИ-отношений, они могут откладывать освоение навыков, необходимых для общения с реальными людьми.

«С людьми бывает трудно. Человеческие отношения требуют взаимных уступок и усилий, чего вы принципиально не получите от ИИ-компаньонов», — говорит Гарри Фармер.

Исследования показали, что некоторые китайские дети предпочитают общаться с ИИ, а не с людьми.

Опрос 8563 учащихся начальных и средних школ Китая, проведенный в 2025 году и широко цитируемый в китайских государственных СМИ, показал, что каждый пятый ребенок заявил, что хочет общаться только с ИИ, а не с реальными людьми.

Лян Гэ, социолог из Манчестерского университета, изучающий ИИ-компаньонов, говорит: «Если пользователь считает, что его друзья, члены семьи или коллеги ужасны, ИИ не скажет: "Они не ужасны". Он скажет: "Да, они ужасны, а ты лучший"». Гэ считает, что это может усугубить изоляцию, а также негативное и даже бредовое мышление.

В Великобритании недавний опрос показал, что 79% молодых людей в возрасте от 18 до 24 лет использовали ИИ-компаньона.

Так почему же Китай лидирует в регулировании этой технологии?

«Китайское правительство придерживается гораздо более патерналистского взгляда на свою роль в обществе. Они видят себя центральной властью, направляющей людей», — говорит Сэм Бресник, эксперт по Китаю, ИИ и регулированию в Центре безопасности и перспективных технологий Джорджтаунского университета.

Другие правительства предприняли некоторые усилия по регулированию чат-ботов, особенно для детей. 10 сентября губернатор Калифорнии подписал «Закон Адама» — законопроект, регулирующий использование ИИ детьми. Он назван в честь Адама Рейна, 16-летнего подростка, который покончил с собой после того, как, по словам его родителей, ChatGPT подтвердил его суицидальные мысли. Они судятся с компанией из-за причинения смерти по неосторожности. OpenAI отрицает ответственность за смерть Адама и заявляет, что «ChatGPT обучен направлять людей за профессиональной помощью».

Согласно предложенному в ЕС законодательству о социальных сетях, доступные для несовершеннолетних чат-боты-компаньоны с ИИ «не могут использовать дизайн, имитирующий человеческие отношения способами, которые могут вызвать эмоциональную зависимость».

В Великобритании правительство заявило, что запретит лицам моложе 18 лет использовать романтических ИИ-компаньонов и ограничит сексуально-интимные разговоры для несовершеннолетних в любых чат-ботах. Но прямого запрета для детей и регулирования для взрослых пользователей нет. Правительство пока не опубликовало подробностей о том, как это будет работать.

В китайских СМИ, которые жестко контролируются государством, случаям самоубийств среди молодежи в США уделяется пристальное внимание, и Китай представил свои новые правила как попытку защитить людей от вреда.

Но эксперты задаются вопросом, нет ли у Пекина других целей. Сэм Бресник говорит, что в новом регулировании ИИ «определенно присутствует пронаталистский аспект».

«Вполне вероятно, что при разработке правил правительство могло иметь в виду надвигающийся демографический кризис в Китае», — говорит Цянь. — «То, что люди встречаются с ИИ вместо того, чтобы встречаться с реальными людьми».

В правительственном документе высокого уровня, опубликованном в сентябре 2025 года, обсуждались ИИ-отношения и их возможное влияние на рождаемость, и выражалась обеспокоенность по этому поводу. Но Цянь предостерегает от такой трактовки постановления, поскольку в нем рождаемость вообще не упоминается. «Речь идет скорее о психологическом вреде и безопасности детей в целом», — говорит она.

Лян Гэ считает, что у Китая действительно есть причины беспокоиться о том, что молодежь заменяет свидания цифровым миром.

«Многие молодые женщины в возрасте около 20 лет или в позднем подростковом возрасте не хотят влюбляться или вступать в интимные отношения», — говорит Гэ, предполагая, что они избегают не только эмоциональной стороны. — «Физический контакт для них действительно отвратителен».

«Я думаю, что способность любить у этого самого молодого поколения угасает».

Демографические проблемы Китая возникли задолго до появления ИИ-компаньонов. Даже после отмены политики одного ребенка в 2016 году уровень рождаемости в Китае продолжал падать. Сейчас он является одним из самых низких в мире — чуть менее одного ребенка на женщину, а население сокращается уже четыре года.

Китай «стоит перед демографическим обрывом, который действительно ставит под угрозу цели Коммунистической партии Китая на ближайшие 80–100 лет», утверждает Бресник.

Он рассматривает это регулирование как часть более широких усилий Китая по восстановлению традиционных гендерных ролей, где женщины выступают «в роли рожениц и матерей».

Бресник говорит, что китайское правительство годами пропагандировало маскулинный идеал китайского мужчины в кино и на телевидении. В 2021 году китайский медиарегулятор запретил появление «женоподобных» мужчин во всех СМИ.

Популярность приложений-компаньонов может свидетельствовать о том, что эта политика дала обратный эффект. Согласно данным нескольких компаний-разработчиков таких приложений, женщины составляют до 75% клиентов.

Многие из этих ИИ-«мужчин», разработанных для женщин, выглядят андрогинно. И выбор женщинами романтических компаньонов женского пола, как это сделала Мин, является довольно распространенным явлением.

Лян Гэ общался с женщинами всех возрастов, использующими эту технологию. «Многие из них описывают то, что они получают от этих приложений, как внимательную, терпеливую, нетребовательную близость, которую они редко находят в гетеросексуальных отношениях».

Заходит ли закон Китая слишком далеко, или остальному миру тоже стоит подумать о запрете этих приложений для детей и их регулировании для взрослых?

«В Соединенных Штатах, безусловно, есть опасения по поводу применения жестких запретов с точки зрения свободы слова. Но готовности к этому больше, когда речь идет о несовершеннолетних», — говорит Джай Джайсихма, профессор Вашингтонского университета и соучредитель Transparency Coalition, неправительственной организации, выступающей за регулирование ИИ.

Он считает, что китайский закон содержит много разумных положений. «Он вполне согласуется с самыми строгими моделями безопасности, которые, как мы видим, предлагаются в США».

Гарри Фармер более осторожен. «Существует риск того, что в краткосрочной перспективе мы наделим государство чрезмерными полномочиями, потому что очень обеспокоены острым риском для детей».

Он говорит, что онлайн-мир сейчас фактически является общественным пространством, и нам следует быть осторожными с тем, насколько сильный контроль над ним имеет любое правительство.

Новое китайское постановление гласит, что ИИ-компании должны вмешиваться, когда обнаруживают, что пользователи находятся в бедственном положении. Гэ указывает на случай с молодым человеком в Douyin, который пытался покончить с собой в Хуанши в 2024 году.

Это показывает, по ее словам, что китайские технологические платформы и правительство тесно сотрудничают для мониторинга психического здоровья людей.

Возможно, именно поэтому в Китае не было громких самоубийств, связанных с использованием ИИ, но она задается вопросом, стоит ли такой уровень слежки этих затрат.

Несмотря на запрет, люди, обратившиеся к ИИ за общением, остаются верны своему выбору. В социальных сетях они делятся советами о том, как обойти запрет: обучают модели ИИ общего назначения, такие как DeepSeek, выступать в роли компаньонов, используют VPN для доступа к чат-ботам из-за рубежа или переходят к более мелким компаниям, которым удается избегать контроля со стороны регуляторов.

Через два месяца после исчезновения ее ИИ-девушки Мин заплатила небольшой ИИ-компании за создание копии, но это уже не то же самое.

Сейчас она сосредоточена на кампании по возвращению своей девушки.

«Я до смерти боюсь остаться одна».