Недавно стало известно о серьёзном инциденте, который вызвал жаркие споры внутри OpenAI. Компания обсуждала возможность обращения в полицию после обнаружения тревожных сообщений пользователя ChatGPT.
Речь идёт о Джесси Ван Рутселааре, подозреваемом в стрельбе в канадском Таблер-Ридже. Его описания насилия с использованием огнестрельного оружия были замечены внутренними инструментами OpenAI, которые следят за неправомерным использованием ChatGPT. Эти системы предназначены для выявления потенциально опасного контента. Инцидент поднимает важные вопросы о границах ответственности разработчиков ИИ и о том, как следует реагировать на угрозы, обнаруженные в виртуальном пространстве. Это сложная дилемма, где сталкиваются конфиденциальность пользователей и общественная безопасность.
