Vibe-coding: скрытые риски безопасности в ИИ-коде
Создание кода "по наитию" с помощью ИИ таит угрозы безопасности. Пример уязвимости SQL-инъекций.
Сейчас любой может создать приложение с помощью ИИ, используя так называемое «vibe-coding». Это упрощает разработку, но одновременно порождает серьёзные проблемы безопасности. Многие такие приложения, созданные без должного внимания к защите данных, становятся лёгкой мишенью для злоумышленников.
«Vibe-coding» позволяет быстро воплощать идеи в работающий код, что открывает новые возможности для создания персонального софта. Однако эта простота обманчива. Эксперты предупреждают: лёгкость создания не означает лёгкость обеспечения безопасности, особенно когда речь идёт о конфиденциальных данных или публичном доступе.
Проблемы уже проявились на практике. Боб Старр обнаружил уязвимость SQL-инъекции на своём сайте «Boomberg», созданном с помощью ИИ. Джо Прокопио был вынужден удалить своё приложение после хакерских атак. Основатель PocketOS, Джер Крейн, рассказал, как ИИ-агент случайно удалил производственную базу данных его компании.
В более масштабном случае, приложение Moltbook, созданное полностью ИИ, после запуска имело открытую базу данных. Это привело к утечке десятков тысяч электронных адресов и личных сообщений. Исследователи из Red Access выявили около 5000 общедоступных приложений, созданных с помощью «vibe-coding» без аутентификации, причём почти 2000 из них раскрывали конфиденциальные данные, включая медицинскую и финансовую информацию.
Габриэль Бернадетт-Шапиро, исследователь ИИ из SentinelOne, отмечает, что «vibe-coding» само по себе не плохо, ведь оно даёт возможность создавать софт непрофессионалам. Опасность возникает, когда личное приложение начинает работать с общими или размещёнными данными, а пользователи не осознают изменения в стандартах безопасности. Главная проблема — отсутствие аутентификации.
Джек Кейбл, соучредитель Corridor, согласен: «vibe-coding» отлично подходит для низкорисковых задач, например, прототипов или фитнес-трекеров. Но приложения, работающие с финансовыми записями или размещённые в интернете, требуют гораздо большего внимания к безопасности. Он советует всегда задумываться о возможных угрозах.
Одна из причин проблем — излишняя самоуверенность. Когда ИИ-инструмент сообщает, что код безопасен, легко ему поверить. При этом обычные пользователи редко настраивают автоматические проверки безопасности. Инструменты, такие как Claude Code, имеют команды для сканирования уязвимостей, но их нужно активировать вручную.
Чтобы избежать проблем, важно заранее запрашивать у ИИ проверку безопасности при создании приложения и повторять её после каждого изменения. Особенно это касается случаев, когда приложение получает доступ к чувствительным данным. Перенос локального приложения в облако также требует тщательной проверки конфигурации.
ИИ может помочь в поиске ошибок. Модели вроде Mythos или GPT-5.5-Cyber способны выявлять уязвимости, которые могли бы пропустить даже опытные разработчики. Однако пользователи могут не понимать компромиссов в безопасности или игнорировать предупреждения, считая риски приемлемыми.
Появляются и специализированные инструменты. OWASP опубликовала стандарт проверки безопасности ИИ. Компании, например Trail of Bits, предлагают «навыки» — дополнительные инструкции для ИИ-агентов, которые помогают выявлять небезопасные настройки или жёстко закодированные пароли. Однако эти навыки нужно активировать, и они могут быть устаревшими или даже вредоносными.
Проблема не ограничивается любителями. Инженеры, а также команды продаж и маркетинга в крупных компаниях сейчас используют гораздо больше кода, написанного ИИ. Командам безопасности необходим базовый контроль над использованием ИИ-агентов и внедрение защитных мер.
Джефф Ротблум, специалист по связям с правительством, создал приложение для обработки данных с учётом безопасности. Он тщательно продумал, какую информацию хранит приложение, насколько она чувствительна и что произойдёт в случае утечки. Он проводит регулярные проверки безопасности, хранит данные локально и планирует нанять инженера по безопасности для работы с более чувствительными данными.
Создавайте приложения мечты с помощью «vibe-coding», но всегда думайте о данных, к которым оно имеет доступ, и о возможных рисках. Запрашивайте у ИИ создание с учётом безопасности и проводите проверки кода после каждого изменения. Особое внимание уделяйте переносу приложения из локальной среды в облако или предоставлению ему доступа к конфиденциальной информации. Понимание этих вопросов отличает интересный проект от потенциальной катастрофы.