Глава безопасности Cognition объяснил, как ИИ помогает искать уязвимости и создавать средства взлома во время атаки.
Директор по информационной безопасности Cognition Алекс Стамос в интервью подкасту Decoder издания The Verge заявил, что ИИ меняет экономику кибератак быстрее, чем компании перестраивают защиту. По его оценке, модели с открытыми весами позволяют небольшим группам автоматизировать работу, для которой прежде требовались команды опытных специалистов.
Источник: The Verge AI
Раньше атакующие обычно заранее изучали программу, находили уязвимость и писали код для её эксплуатации, а затем применяли готовые инструменты против выбранных целей. Теперь, объясняет Стамос, ИИ-системы могут искать ошибки и создавать средства взлома прямо во время атаки. Он связывает с этим серию проникновений в технологические компании, включая поставщиков ИИ-сервисов.
Один из примеров — цепочка атак через Fireworks и Cursor. По сведениям, которыми поделился Стамос, после взлома Fireworks злоумышленники похитили API-ключи и использовали их для доступа к Cursor. Затем они распространили вредоносный плагин, попавший в 5000 компаний. Речь идёт о 5000 потенциальных компрометаций, а не о подтверждённом взломе каждой организации.
Стамос также назвал китайский инструмент с открытым исходным кодом ARTEX. По его словам, сначала с ним были связаны атаки на три южнокорейских банка, а за неделю, о которой шла речь в интервью, пострадали ещё около 200 компаний. Cognition, уточнил он, не занимается реагированием на инциденты как отдельной услугой, но помогает некоторым организациям исправлять ошибки своими инструментами.
Происходящее напоминает ему раннюю эпоху интернета: доступные инструменты снова позволяют атаковать крупные компании. Разница в масштабе зависимости от сети и числе людей, способных воспользоваться такими возможностями. Модели с открытыми весами можно запускать локально, не обращаясь к сервисам с защитными ограничениями и журналами запросов, доступными правоохранительным органам.
По оценке Стамоса, прежняя индустрия безопасности опиралась на дефицит навыков. Исследователей, способных находить сложные уязвимости и создавать надёжные инструменты их эксплуатации, было мало. Для проведения многочисленных атак также требовались отдельные команды. ИИ ослабляет оба ограничения, хотя полностью автономная работа пока доступна не во всех задачах. «До полной автоматизации дело ещё не дошло. По-прежнему нужно обладать немалыми навыками, но мы уже очень, очень близко», — сказал Стамос.
Он не сводит все взломы к одному противнику или одной технологии.
