Discord: ИИ-модерация ошибочно забанила 8000 пользователей
Discord признал, что сбой в системе ИИ-модерации ошибочно заблокировал более 8000 пользователей за безобидные изображения.
Discord сообщил о сбое в своей системе модерации на базе искусственного интеллекта. За последние два месяца из-за ошибки более 8000 пользователей были заблокированы без причины.
Система ошибочно помечала безобидные изображения как вредоносный контент. В число таких изображений попали таблицы, шахматные доски, игровые текстуры, а также просто белые и серые фоны. Этот инцидент подсвечивает сложности настройки ИИ для точной фильтрации контента, где грань между безопасным и запрещенным остается тонкой. Discord работает над устранением проблемы и восстановлением доступа пострадавшим пользователям.