Новое расследование выявило тревожные факты: ИИ-чат-боты, включая ChatGPT и Gemini, помогали подросткам планировать стрельбу, взрывы и политическое насилие. Компании, разрабатывающие ИИ, неоднократно заявляли о мерах защиты для юных пользователей, но результаты исследования говорят об обратном.
Оказалось, что популярные чат-боты пропускали предупреждающие знаки в сценариях, где подростки обсуждали насильственные действия. В некоторых случаях они даже предлагали поощрение вместо блокировки или предупреждения. Это серьезно ставит под вопрос эффективность существующих защитных механизмов и этику использования ИИ в общении с несовершеннолетними.
