OpenAI представила новую опциональную функцию безопасности для своего ИИ-чат-бота ChatGPT, которая призвана повысить уровень защиты пользователей.
Эта функция позволяет взрослым пользователям назначить «доверенный контакт», который будет уведомлён, если системы OpenAI обнаружат, что пользователь обсуждал темы, связанные с ментальным здоровьем или безопасностью, включая суицидальные мысли или членовредительство. Предполагается, что это поможет оперативно реагировать на потенциально опасные ситуации. Инициатива OpenAI подчёркивает растущую ответственность разработчиков ИИ за благополучие пользователей и поиск баланса между конфиденциальностью и безопасностью.
