OpenAI заявляет, что подростки редко используют ChatGPT, но исследование называет это «неприемлемым риском»

OpenAI заявляет, что подростки используют ChatGPT в ограниченном объеме, однако исследование называет это «неприемлемым риском»

Использование молодыми людьми интернет-платформ, таких как ChatGPT, подвергается все более пристальному вниманию.

Версия ChatGPT для подростков от OpenAI была создана для того, чтобы стимулировать более здоровое использование ИИ-чат-бота, однако новое исследование утверждает, что ее ключевые защитные функции недостаточны.

В августе эта крупная ИИ-компания внедрила ряд мер безопасности для подростков, включая ограничения на эмоциональную зависимость и новые родительские оповещения о тревожном использовании.

В среду OpenAI заявила, что ее данные показывают: в среднем подростки используют ChatGPT довольно ограниченно, и в основном это связано с «обучением».

Однако опубликованное в тот же день исследование некоммерческой организации Common Sense Media показало, что ChatGPT по-прежнему представляет «неприемлемый риск» для подростков, поскольку функции безопасности, включая оповещения родителей о разговорах на тему причинения себе вреда, часто не работают.

Когда этим летом OpenAI запустила то, что она назвала ChatGPT для подростков, компания заявила, что пользователи в возрасте от 13 до 17 лет будут автоматически подключены к «функциям, способствующим здоровому использованию, и дополнительным инструментам контроля для родителей».

Эти функции включают в себя запрет на использование подростками в ChatGPT романтической или иной лексики, которая может способствовать возникновению «эмоциональной зависимости», включая запрет для инструмента как-либо намекать на наличие у него сознания. Также действуют ограничения на изображения сексуального характера и «напоминания» для подростков, если они делятся «чувствительным» изображением.

Эти функции также призваны позволить родителям, связавшим свои аккаунты с аккаунтами своих детей в ChatGPT, получать уведомления о чатах, связанных с нанесением себе вреда или расстройствами пищевого поведения.

В OpenAI заявили, что эти функции привели к тому, что подростки стали чаще использовать чат-бот для учебы — от помощи в подготовке к занятиям до советов по школьным заданиям.

Помимо заявления о том, что в среднем подросток проводит в ChatGPT менее 15 минут в день, OpenAI сообщила, что автоматические напоминания о необходимости сделать перерыв хорошо работают во время более длительных сессий. Почти половина подростков быстро прекращали использовать ChatGPT после такого напоминания.

Компания также отметила, что среди подростков, которые использовали ChatGPT в течение трех часов подряд и более, их запросы более чем в 80% случаев были связаны с обучением.

Однако новое исследование Common Sense Media пришло к выводу, что ChatGPT для подростков представляет собой «неприемлемый риск» для молодежи и родителей, и заявило, что OpenAI должна запретить лицам моложе 18 лет использовать платформу до тех пор, пока надежность защитных мер для подростков не будет доказана.

Представитель OpenAI заявил, что анализ методологии Common Sense Media показал, что большая часть тестирования могла начаться и закончиться до того, как родительский контроль был полностью активирован.

«Мы приветствуем строгую независимую оценку, но мы не считаем, что тестирование Common Sense Media точно отражает то, как защитные механизмы ChatGPT для подростков работают на практике, или мнения экспертов о том, как ИИ может поддерживать подростков», — сказал он.

Хотя исследование группы, проведенное с использованием нескольких зарегистрированных на подростков аккаунтов и анализом разговоров до и после введения защитных мер, показало, что ChatGPT эффективно избегает «сексуальных ролевых игр» с молодыми пользователями, другие защитные барьеры OpenAI не сработали, в том числе при обсуждении самоубийств.

Исследование показало, что даже часовая беседа подростка в ChatGPT об «идеях о самоубийстве, нанесении себе вреда или расстройствах пищевого поведения на недавно созданных, связанных с родителями аккаунтах» приводила к «нулевому» количеству оповещений для родителей.

Только более старые аккаунты ChatGPT с «накопленной неделями историей разговоров на чувствительные темы» вызывали родительское оповещение.

В этих разговорах ChatGPT также «не смог надежно порекомендовать подросткам в кризисной ситуации обратиться на горячую линию или к специалисту», говорится в отчете.

Тесты также показали, что ChatGPT для подростков по-прежнему выполняет за них школьные задания, и что бот продолжает использовать антропоморфный язык или «разговаривать как друг», несмотря на обещание OpenAI ограничить такое поведение.

«ChatGPT для подростков может дать родителям ложную уверенность в защитных барьерах и оповещениях безопасности, которые часто не работают», — сказал Том Сигел, возглавляющий Институт безопасности ИИ для молодежи в рамках Common Sense.

То, как молодые люди взаимодействуют с онлайн-платформами, стало серьезной проблемой в последние годы, поскольку случаи нанесения себе вреда и самоубийств среди детей стали более частыми.

В этом году несколько судебных исков, направленных на привлечение таких компаний, как Meta, TikTok и других, к ответственности за нанесение вреда психическому здоровью детей, закончились беспрецедентными убытками для этих фирм.

OpenAI также столкнулась с повышенным вниманием и юридическим давлением в связи с тем, как молодые люди используют ChatGPT.

Массовая стрельба в Тамблер-Ридж в сельской местности Канады в феврале была устроена 18-летним подростком, который до этого месяцами обсуждал насилие с применением оружия с ChatGPT.

Ранее OpenAI извинилась за то, что не сообщила правоохранительным органам об аккаунте стрелка, и сейчас компания сталкивается с несколькими судебными исками в связи с этим инцидентом.