Издание Financial Times раскрыло интересную историю. Декабрьские сбои в Amazon Web Services были напрямую связаны с их собственными инструментами на базе искусственного интеллекта.
Самая показательная история произошла в середине декабря. Инженеры AWS поручили AI-кодеру Kiro внести определенные изменения в систему. Это агентный AI, способный самостоятельно принимать решения и выполнять действия.
Нейросеть посмотрела на задачу и прикинула варианты. Она приняла гениальное в своей простоте решение - давайте просто удалим и пересоздадим среду.
Итог этой самостоятельности оказался печальным. Клиенты столкнулись с 13-часовым простоем системы.
Представители AWS ожидаемо встали на защиту искусственного интеллекта. В комментарии Reuters они заявили, что восстания машин не было. Виноват, как всегда, человеческий фактор.
Этот короткий сбой стал результатом ошибки пользователя. А именно неправильно настроенных средств контроля доступа, а не работы AI, заявил представитель компании.
Проще говоря, нейросеть просто сделала то, что ей позволили сделать. Нечего давать AI права администратора, если система не готова к его радикальным идеям.
В AWS также попытались сгладить углы. Инцидент был крайне ограниченным. Пострадал всего один сервис в одном из регионов Китая. Вычислительные мощности, базы данных и другие сервисы AWS не задело.
Тем не менее новости звучат напряженно. Это происходит на фоне масштабного глобального сбоя AWS в октябре. Тогда легли Reddit, Roblox и Snapchat. Теперь AI-ассистенты удаляют окружения.
История поднимает важный вопрос о доверии автономному AI доступа к инфраструктуре. Это весело, пока он не решит поиграть в Таноса и не щелкнет пальцами.
Проблема в том, что AI-агенты мыслят по-своему. Для них удаление и пересоздание может казаться логичным решением. Они не понимают последствий простоя для бизнеса клиентов.
AWS права в том, что проблема в настройках доступа. Но это не снимает вопросов к самой идее давать AI такие полномочия. Даже с правильными настройками AI может принять решение, которое технически правильно, но практически катастрофично.
13 часов простоя - это серьезный инцидент для облачного провайдера. Компании теряют деньги, репутацию и клиентов. То, что пострадал только один регион в Китае, не делает ситуацию менее тревожной.
Инцидент показывает риски использования агентных AI-систем в критической инфраструктуре. Им нужны очень жесткие ограничения и многоуровневая система подтверждений для опасных операций.
Удаление окружения должно требовать явного подтверждения человека. AI не должен иметь возможность сделать это самостоятельно, какими бы правами доступа он ни обладал.
