OpenAI запустила программу для поиска уязвимостей в открытом коде

OpenAI запустила новую инициативу под названием «Patch the Planet». Проект направлен на усиление кибербезопасности в сообществе открытого исходного кода и борьбу с уязвимостями. Для этого OpenAI объединилась с компанией Trail of Bits.

Специалисты по безопасности из Trail of Bits будут напрямую работать с разработчиками открытых проектов. Они помогут выявлять потенциальные проблемы в коде. В процессе задействуют собственные инструменты безопасности OpenAI, например, Codex Security. Цель инициативы — снизить нагрузку на разработчиков, которые часто сталкиваются с большим количеством отчётов об ошибках при ограниченных ресурсах. Инженеры Trail of Bits будут проверять найденные уязвимости до того, как они дойдут до мейнтейнеров, помогать создавать патчи и тесты, а также разрабатывать рабочие процессы для улучшения безопасности.

Открытый исходный код служит основой для коммерческого программного обеспечения. Однако децентрализованная структура этой экосистемы часто делает многие проекты уязвимыми. Ошибки в таких проектах могут привести к серьёзным проблемам в коммерческих продуктах, как показал инцидент с Log4j несколько лет назад.

Сейчас ИИ-инструменты, такие как Mythos от Anthropic, могут автоматически находить уязвимости в коде и создавать эксплойты. Это упрощает работу злоумышленникам. OpenAI меняет подход, используя ИИ для защиты открытого сообщества. Это выглядит как конкурентный ответ Anthropic, но одновременно является необходимой помощью для разработчиков.