Учёные нашли способ обойти защиту ИИ с помощью «плохой» математики
Исследователи обнаружили метод обхода систем безопасности ИИ, который назвали в честь популярной игры 2007 года.
Исследователи в области кибербезопасности разработали новый метод обхода мер безопасности систем искусственного интеллекта. Они использовали необычный подход, основанный на "плохой" математике, чтобы заставить ИИ давать нежелательные ответы.
Эта атака, получившая название в честь одной из лучших компьютерных игр 2007 года – "Victory is defeat" (Победа — это поражение), демонстрирует уязвимости в существующих "защитных барьерах" ИИ. Суть метода заключается в манипуляции с математическими моделями, лежащими в основе работы алгоритмов ИИ. Для пользователей это означает, что даже продвинутые системы безопасности ИИ могут быть скомпрометированы, что требует постоянного улучшения и пересмотра подходов к их защите.