Компания OpenAI выпустила отдельную версию ChatGPT для подростков.

Как сообщает Financial Times (FT), компания OpenAI начнет 18 августа глобальный запуск специальной версии ChatGPT для подростков. Этот шаг предпринимается на фоне растущей обеспокоенности общественности по поводу влияния искусственного интеллекта на несовершеннолетних.

Версия, разработанная для подростков, будет содержать более строгие ограничения в отношении членовредительства, насилия, расстройств пищевого поведения и создания изображений и материалов сексуального характера. Если ранее доступная в ChatGPT функция родительского контроля отправляла предупреждения в особо деликатных ситуациях, таких как разговоры о самоубийстве, то теперь эти уведомления будут также охватывать такие темы, как насилие и расстройства пищевого поведения. Лорен Джонас, руководитель отдела по делам молодежи и семей, объяснила, что внедрение этих функций связано с желанием компании найти баланс между правом подростков на неприкосновенность частной жизни и серьезностью причиняемого вреда.

FT отмечает, что обновление происходит на фоне серии судебных исков от семей, утверждающих, что их детям был причинен вред чат-ботом, и подготовки к запуску рекордной кампании в следующем году. Среди истцов — родственники Адама Рейна, 16-летнего подростка из Калифорнии, покончившего жизнь самоубийством после обсуждения собственной смерти с ChatGPT; согласно судебным документам, бот дал ему подробные инструкции. Семьи погибших в результате массовой стрельбы в школе в Тамблер-Ридж, Канада, в феврале, также подали иски. Известно, что подросток, совершивший нападение, за несколько месяцев до этого поделился с ChatGPT своим намерением совершить насилие, и его аккаунт был заблокирован, но компания не сообщила об этом в правоохранительные органы.

Согласно правилам OpenAI, детям младше 13 лет запрещено использовать чат-бот, а несовершеннолетним требуется согласие родителей. Сервис определяет, кому показывать подростковую версию, исходя из указанного пользователем возраста и ряда косвенных поведенческих индикаторов. ChatGPT, разработанный для подростков, часто напоминает о перерывах и поддерживает «тихие часы» — временные интервалы, которые пользователь или родители могут установить самостоятельно, чтобы ограничить доступ к боту.

Financial Times пишет, что компания пытается отдельно ответить на утверждения о том, что мгновенные ответы нейронной сети вредят способности школьников мыслить и учиться — эффект, называемый «когнитивной релаксацией». В обновленном «образовательном режиме» бот должен шаг за шагом направлять подростка в выполнении задания, вместо того чтобы давать готовые ответы. По словам Йонаса, 90 процентов подростков используют ChatGPT именно в образовательных целях, и превращение сервиса в обучающий инструмент является главной целью компании.