Издание Financial Times сообщило о нескольких недавних сбоях в работе облачных сервисов AWS. По данным четырёх источников, эти инциденты могли быть вызваны тем, что инструмент для кодирования Kiro AI вносил изменения без должного контроля со стороны инженеров.
Старший сотрудник AWS утверждает, что как минимум два сбоя за последние месяцы произошли из-за того, что ИИ-агент самостоятельно устранял проблему. Один из источников отметил, что инженеры позволили ИИ-агенту действовать без вмешательства, и хотя сбои были небольшими, их можно было предвидеть. В частности, 13-часовое прерывание работы в декабре прошлого года, по утверждениям источников FT, случилось из-за решения инструмента «удалить и воссоздать среду», что напоминает прошлогодний случай, когда другой ИИ-агент удалил целую кодовую базу.
Однако Amazon опровергает эти заявления, утверждая, что причиной сбоев стали ошибки в разрешениях доступа, а не сам ИИ. В заявлении для The Register, касающемся декабрьского инцидента, Amazon указала, что это было результатом ошибки пользователя — сотрудника AWS, который неправильно настроил контроль доступа. Перебой затронул только один сервис (AWS Cost Explorer) в одном из двух регионов материкового Китая и не повлиял на основные вычислительные, хранилищные или другие ИИ-технологии. После этих событий компания внедрила дополнительные меры безопасности, включая обязательную проверку доступа к производственным системам.
В своих заявлениях для FT Amazon также подчеркнула, что инструмент Kiro AI «запрашивает авторизацию перед выполнением любых действий», и повторила, что инженер, участвовавший в декабрьском инциденте, имел «более широкие разрешения, чем ожидалось». Компания назвала участие ИИ в этом событии «совпадением».
Эта ситуация поднимает вопросы о том, как компании будут управлять внедрением ИИ-инструментов для кодирования. Хотя агентский ИИ имеет свои преимущества, разработка надёжных механизмов контроля и безопасности для его использования остаётся сложной задачей даже для таких гигантов, как AWS.
