Anthropic, известная компания в сфере ИИ, недавно обнаружила более 500 критических уязвимостей в популярных опенсорсных проектах, используя свою продвинутую модель Claude Opus 4.6. Эти дыры в безопасности оставались незамеченными десятилетиями, несмотря на миллионы часов тестирования и экспертные проверки. Через две недели после этого открытия, 20 февраля, Anthropic запустила новый продукт — Claude Code Security, который использует эти возможности для защиты кода.
Claude Code Security — это инструмент для сканирования кода, который работает иначе, чем привычные решения. Он доступен для корпоративных клиентов и команд в рамках ограниченного исследовательского превью. В отличие от систем, основанных на паттернах, таких как CodeQL от GitHub, Claude использует рассуждения, чтобы находить логические ошибки и уязвимости, которые не покрываются стандартными правилами. Это позволяет ему выявлять проблемы, которые традиционные методы просто не видят.
Традиционные инструменты, например, CodeQL, ищут известные типы уязвимостей, сопоставляя код с заранее определёнными паттернами. Они хорошо справляются с анализом потока данных для известных проблем. Однако Claude Code Security идёт дальше, генерируя и проверяя собственные гипотезы о том, как данные и управление перемещаются по приложению. Это включает случаи, когда нет существующих правил для описания потенциальной уязвимости.
Anthropic продемонстрировала возможности Claude на нескольких примерах:
- Анализ истории коммитов (GhostScript): Claude изучил историю изменений в Git и нашёл патч, добавляющий проверку границ стека. Затем он выявил, что в другом файле, gdevpsfx.c, вызов той же функции не имел этой проверки, что привело к уязвимости.
- Рассуждения о предусловиях (OpenSC): Модель обнаружила место, где несколько операций
strcatвыполнялись последовательно без проверки длины выходного буфера. Claude смог построить переполнение буфера, хотя традиционные фаззеры редко достигали этого участка кода из-за сложных предусловий. - Крайние случаи алгоритмов (CGIF): Claude выявил уязвимость в библиотеке CGIF, связанную с LZW-сжатием. Модель поняла, что при заполнении словаря LZW сжатый вывод может превысить несжатый размер, вызывая переполнение буфера, что не ловится даже 100% покрытием кода.
Для подтверждения более 500 найденных уязвимостей Anthropic поместила Claude в изолированную виртуальную машину со стандартными утилитами. Модель самостоятельно отфильтровывала и приоритизировала результаты, прежде чем их проверяли люди. Когда количество подтверждённых уязвимостей продолжало расти, привлекли внешних экспертов для валидации и создания патчей. Все целевые проекты были опенсорсными и лежали в основе корпоративных систем и критической инфраструктуры.
Возникает вопрос о двойном назначении таких технологий: те же рассуждения, которые помогают найти уязвимость, могут быть использованы злоумышленниками для её эксплуатации. Anthropic признаёт эту проблему, заявляя, что их цель — «склонить чашу весов в сторону защитников». Однако многие директора по безопасности пока не готовы к таким инструментам, поскольку считали, что подобные возможности появятся не раньше 2026 года.
Мерритт Бэр, CSO в Enkrypt AI, отмечает, что такие инструменты не «вооружают» внутреннюю поверхность, а скорее «раскрывают» её, выявляя скрытые риски. Также существует риск утечки интеллектуальной собственности, поскольку модели могут усваивать и переформулировать проприетарные данные. Anthropic ввела строгие ограничения: продукт доступен только корпоративным клиентам и командам, а опенсорсные разработчики могут подать заявку на бесплатный доступ. Все патчи требуют человеческого одобрения, а в саму модель встроены механизмы обнаружения потенциального злоупотребления.
Anthropic не единственная компания, работающая в этом направлении. Исследователь Шон Хилан использовал модель o3 от OpenAI для обнаружения ранее неизвестной уязвимости в ядре Linux. Стартап AISLE с помощью ИИ нашёл 12 из 12 уязвимостей нулевого дня, объявленных в январском патче OpenSSL 2026 года, включая критическую уязвимость, которую традиционные фаззеры не могли обнаружить годами.
Эти 500 уязвимостей находятся в опенсорсных проектах, от которых зависят многие корпоративные приложения. Anthropic раскрывает их и выпускает патчи, но период между обнаружением и внедрением этих патчей — это то самое «окно», где сейчас действуют злоумышленники. Возможности, лежащие в основе Claude Code Security, доступны любому, у кого есть доступ к API. Директорам по безопасности, которые внедрят эти инструменты раньше, будет проще устанавливать свои правила игры.
