Уязвимости ИИ: Copilot и LiteLLM раскрыли конфиденциальные данные

Две популярные ИИ-модели, Copilot и LiteLLM, продемонстрировали схожие уязвимости, раскрывающие чувствительные данные. Проведите аудит системы.

Схема безопасности корпоративного ИИ, показывающая защиту от уязвимостей Copilot и LiteLLM, с замком и данными

Две ведущие ИИ-платформы, Copilot и LiteLLM, столкнулись с одинаковыми проблемами безопасности за короткий период, что вызвало обеспокоенность среди экспертов. Это подчёркивает нарастающие риски, связанные с интеграцией искусственного интеллекта в корпоративные системы.

Исследовательские группы подтвердили, что корпоративные ИИ-системы, принимающие внешний ввод без должных границ доверия, представляют серьёзный риск. Так, 15 июня Varonis раскрыла уязвимость SearchLeak (CVE-2026-42824), позволяющую извлекать данные из почтовых ящиков через Copilot. Аналогично, LiteLLM непреднамеренно предоставлял административные ключи, что может привести к несанкционированному доступу.

Чтобы защитить свои системы, рекомендуется провести аудит по следующим пяти ключевым пунктам:

  1. Изоляция внешних вводов: Убедитесь, что внешний ввод строго изолирован от самых чувствительных функций вашей системы.
  2. Подробное логирование запросов LLM: Фиксируйте запросы к моделям LLM с достаточной детализацией, чтобы эффективно отлаживать проблемы безопасности.
  3. Защита логов от PII и секретов: Проверьте, не содержат ли ваши журналы безопасности конфиденциальную информацию, такую как персональные данные или секреты.
  4. Защита RAG-пайплайна от инъекций: Обеспечьте безопасность вашего RAG (Retrieval-Augmented Generation) пайплайна от атак с использованием инъекций промтов.
  5. Контроль за опасными функциями LLM: Убедитесь, что ваша LLM не может отправлять электронные письма, инициировать вызовы API или выполнять другие потенциально опасные функции без подтверждения человека.