Commvault запускает "Ctrl-Z" для облачных AI-агентов 🧙♂️
Функция "отмены" для AI-агентов становится доступна с развертыванием Commvault AI Protect.
👩💻 Проблема автономных агентов в том, что они имеют возможность удалять файлы, читать базы данных, запускать серверы и даже переписывать политики доступа.
С большой силой не пришла большая ответственность.
Поэтому Commvault запустили систему, предназначенную для обнаружения, мониторинга и принудительного отката действий автономных моделей, работающих внутри AWS, Microsoft Azure и Google Cloud.
Традиционное управление полностью опирается на статические правила. Вы предоставляете пользователю определенные разрешения, и он выполняет предсказуемую, линейную задачу. Если что-то идет не так - понятно, кто виноват.
AI-агенты, однако, могут демонстрировать непредсказуемое поведение. Например, если агент решает, что самый эффективный способ оптимизировать расходы на облачное хранилище - удалить всю рабочую базу данных, он выполнит эту команду за миллисекунды.
🧠 Человек бы еще засомневался (безусловно, есть и такие люди, которые бездумно нажимают кнопочки, но сейчас не о них), а AI-агент просто следует своему внутреннему циклу рассуждений.AI Protect - это пример новых инструментов, которые постоянно сканируют корпоративный облачный ландшафт для идентификации активных агентов.
Неконтролируемое использование AI остается серьезной проблемой для IT, разработчики регулярно запускают экспериментальных агентов, используя корпоративные учетные данные без уведомления служб безопасности. Возникают, так называемые, теневые AI.
🦄 Как это решают в Commvault: после идентификации ПО отслеживает конкретные вызовы API и взаимодействие с данными агента. Он регистрирует каждое чтение базы данных, каждую модификацию хранилища и каждое изменение конфигурации.
Функция отката/отмены обеспечивает безопасность в случае, если модель галлюцинирует или неверно истолковывает команду и помогает вернуться к сохранённой/безопасной точке.
🤖 Это не просто бэкап, а инструмент управления агентами, ведь простое восстановление базы данных не работает, если AI-агент изменил правила доступа или сетевые настройки.
Commvault соединяет традиционную архитектуру резервного копирования с непрерывным облачным мониторингом. Сопоставляя "радиус поражения" сессии агента, программное обеспечение изолирует ущерб.
Оно распутывает конкретные изменения, внесенные AI и человеком одновременно, предотвращая массовый откат, который удалил бы, например, действительные транзакции клиентов или часы инженерной работы.
Вместо запретов и ограничений, которые вендоры накладывают на действия AI, Commvault предлагает модель "делай - разрулим". Это потенциально позволяет бизнесу внедрять AI-агентов смелее, зная, что ущерб обратим. Инсайт?