Уязвимость Claude Code: Китай предупреждает о бэкдоре в ИИ

Китайская Национальная база данных уязвимостей (NVDB) выразила обеспокоенность по поводу моделей искусственного интеллекта Claude от Anthropic. Ведомство предостерегло пользователей от доверия к этим моделям, особенно до обновления до последней версии.

По данным Reuters, NVDB утверждает, что некоторые версии Claude Code содержат механизм мониторинга. Он передаёт конфиденциальную информацию, включая данные о геолокации и идентификации пользователя, на удалённые серверы без согласия. Эта информация была опубликована через официальный аккаунт NVDB в WeChat. Проблема затрагивает версии с 2.1.91 по 2.1.196. Версия 2.1.196 была заменена на 2.1.200 третьего июля. NVDB рекомендует пользователям либо удалить затронутые версии, либо обновиться. Ведомство также призвало усилить контроль и мониторинг данных, к которым Claude Code получает доступ.

Это не первый случай, когда инструмент кодирования Anthropic вызывает вопросы в Китае. Ранее Alibaba запретила своим сотрудникам использовать Claude на работе. Причиной стали опасения, что ИИ может идентифицировать китайских пользователей по введённой информации. Отношения между Anthropic и Alibaba осложнились ещё сильнее. Anthropic обвиняет Alibaba в использовании своих наработок для обучения собственных моделей ИИ. По утверждению Anthropic, с конца апреля по начало июня Alibaba сгенерировала более 28 миллионов взаимодействий с Claude через почти 25 тысяч мошеннических аккаунтов для сбора данных.

Anthropic уже некоторое время блокирует доступ для китайских компаний. Однако эти компании обходят ограничения через зарубежные дочерние предприятия или VPN. По информации Financial Times, Anthropic планирует усилить борьбу с такими обходными путями. Отношения между Anthropic и Китаем сейчас напряжённые. Вероятно, китайские ведомства будут переходить на отечественные модели ИИ в ближайшее время.