Delve проверяла LiteLLM: ИИ-проект заражён вредоносом
ИИ-проект LiteLLM, которым пользуются миллионы, заражён вредоносным ПО, крадущим учётные данные. Ранее его безопасность проверяла компания Delve.
В популярном открытом проекте LiteLLM, разработанном выпускником Y Combinator, обнаружили вредоносное программное обеспечение. Это ПО крало учётные данные, что вызвало беспокойство в сообществе разработчиков. Инцидент быстро выявил уязвимости в цепочке поставок программного обеспечения.
LiteLLM даёт разработчикам простой доступ к сотням моделей ИИ, а также предлагает функции управления расходами. Проект пользуется большой популярностью, его загружают до 3,4 миллиона раз в день. Вредоносное ПО проникло через одну из «зависимостей» — стороннее открытое программное обеспечение, которое использовал LiteLLM. После этого оно крало учётные данные со всех систем, к которым получало доступ.
Вредоносное ПО выявил исследователь Каллум МакМахон из компании FutureSearch. Его компьютер выключился сразу после загрузки LiteLLM, что и стало причиной расследования. Оказалось, что сбой в работе самого вредоносного кода привёл к его обнаружению. МакМахон, а также известный исследователь ИИ Андрей Карпати, предположили, что код был написан очень небрежно.
Разработчики LiteLLM оперативно работали над устранением проблемы. Вредоносное ПО обнаружили достаточно быстро, вероятно, за несколько часов. Сейчас компания проводит активное расследование совместно с Mandiant. Они обещают поделиться техническими выводами с сообществом после завершения анализа.
Эта история имеет ещё одну важную деталь, которую активно обсуждают. На сайте LiteLLM до сих пор указано, что проект успешно прошёл две крупные сертификации безопасности: SOC2 и ISO 27001. Эти сертификаты были получены через стартап Delve. Delve — это стартап Y-Combinator, который использует ИИ для оценки соответствия требованиям. Его уже обвиняли в предоставлении ложных данных клиентам и использовании аудиторов, которые формально одобряли отчёты. Delve, в свою очередь, эти обвинения отрицает.
Важно понимать: сертификации безопасности призваны подтверждать наличие у компании надёжных политик. Они не могут полностью предотвратить инциденты с вредоносным ПО. Хотя SOC 2 охватывает политики, касающиеся программных зависимостей, угрозы всё равно могут проникать. Инженер Гергели Орос отметил иронию, когда LiteLLM, позиционировавший себя как «защищённый Delve», столкнулся с такой проблемой.
Генеральный директор LiteLLM Криш Дхолакия не стал комментировать сотрудничество с Delve. Сейчас он сосредоточен на устранении последствий атаки. Дхолакия заявил, что компания поделится техническими выводами с сообществом разработчиков после завершения форенсик-анализа.