Ограничения, встроенные в ИИ-модели от OpenAI и Anthropic, существенно затрудняют работу исследователей в области наступательной кибербезопасности. Эти специалисты ищут неизвестные уязвимости и создают инструменты для их эксплуатации, чтобы помочь компаниям защититься от реальных атак.
Многие ИИ-системы, например ChatGPT, по умолчанию отказываются генерировать код, который может быть использован для злонамеренных целей, или давать советы по взлому. Хотя это сделано из благих побуждений, для исследователей это оборачивается проблемой. Они не могут использовать мощные возможности ИИ для симуляции атак и тестирования новых защитных механизмов, что замедляет развитие всей отрасли кибербезопасности.
