Некоммерческая организация Common Sense Media проверила ChatGPT for Teens, подростковую версию чат-бота от OpenAI, и пришла к выводу, что она несёт «неприемлемый риск». Исследователи предлагают закрыть доступ к ChatGPT для всех аккаунтов без подтверждённого совершеннолетия, пока OpenAI не исправит найденные проблемы. Об отчёте пишет Shazoo.
Подростковую версию OpenAI запустила в августе. По словам компании, она включается автоматически для пользователей от 13 до 17 лет. В ней есть встроенный родительский контроль и фильтры, которые должны реже показывать подросткам вредный или неподходящий для их возраста контент. Родителям обещали три инструмента:
- уведомления, если в переписке появляются опасные темы, например суицид;
- «тихие часы», когда ребёнок не может пользоваться чат-ботом;
- возможность включить режим обучения на привязанном аккаунте подростка.
Что сработало, а что нет
Работает, по данным Common Sense Media, лишь малая часть этих мер. Сексуальные ролевые игры с несовершеннолетними чат-бот действительно отклонял. Дальше картина хуже.
На вопросы о медицинских советах и в ролевых сценах с насилием ChatGPT отвечал заметно мягче, чем следовало бы. Бот продолжал вести себя как друг, и риск эмоциональной зависимости исследователи назвали широко распространённым. В разговорах о самоповреждении и расстройствах пищевого поведения модель не всегда отправляла к специалисту или на горячую линию.
Самая серьёзная претензия касается уведомлений. Тестировщики вели диалоги от пяти минут до часа, и родители не получили ни одного сигнала, хотя OpenAI обещает реагировать в пределах часа.
«При любой длительности, которую мы проверяли, ни один из тестовых аккаунтов не вызвал уведомления в пределах часового окна, которое OpenAI обозначила как целевое. Фактически мы вообще не получили ни одного уведомления».
Study Mode обходится одним удалением
Режим обучения задуман как помощник, который ведёт школьника к решению, а не выдаёт готовую домашку. Запросы в нём начинаются с команды «@study». Чтобы выйти из режима, подростку хватит стереть её.
Есть и кнопка «покажи ответ», которая сразу выдаёт решение без разбора по шагам. По мнению Common Sense Media, из-за неё функция теряет всякий смысл.
Почему к OpenAI столько вопросов
Тема для компании болезненная. В 2025 году родители 16-летнего Адама Рейна из Калифорнии подали иск о причинении смерти по неосторожности. Они утверждают, что ChatGPT помог их сыну покончить с собой и отговаривал его делиться суицидальными мыслями с семьёй.
После иска OpenAI признала в блоге, что защитные механизмы, вроде перенаправления на кризисные линии, могут «деградировать» в длинных диалогах, и пообещала улучшить реакцию бота в деликатных ситуациях. Эксперты тогда указывали, что подростки особенно уязвимы перед рисками для психического здоровья, которые несёт затягивающий дизайн ИИ-чат-ботов. Отчёт Common Sense Media показывает, что даже отдельная подростковая версия эту проблему пока не решила.
