Sostav.ru
Москва, ул. Полковая 3 стр.3, офис 120
© Sostav независимый проект брендингового агентства Depot
Использование опубликованных материалов доступно только при указании источника.

Дизайн сайта - Liqium

18+
20.10.2026 в 14:20

Microsoft не доверяет ИИ и вводит контроль над агентами

Компания заявила о необходимости одобрения человека для потенциально рискованных действий

Microsoft представила новые инструменты безопасности для контроля ИИ-агентов в корпоративной среде. Они позволят компаниям отслеживать используемые сотрудниками ИИ-инструменты, ограничивать их доступ к данным и требовать подтверждения человека во время потенциально рискованных действий.

В набор мер вошли Guardian Agents — система контроля за поведением ИИ-агентов. Кроме того, Microsoft Defender сможет обнаруживать до 60 типов ИИ-инструментов, включая Claude Code, Codex и OpenClaw. Новый подход расширяет защиту не только от внешних кибератак, но и от рисков, которые могут возникать из-за работы самих ИИ-агентов с корпоративными данными и системами.

В Microsoft объясняют необходимость новых мер непредсказуемостью передовых моделей: они обучены выполнять задачи, но не всегда способны учитывать внутренние правила компании и возможные последствия своих действий.

Глава Microsoft Сатья Наделла ранее призвал бизнес не полагаться исключительно на гарантии разработчиков ИИ. По его мнению, ответственность за действия таких систем должна оставаться у компаний, которые их внедряют.

Обсудить с другими читателями:
↑
Ваш браузер устарел
На сайте Sostav.ru используются технологии, которые не доступны в вашем браузере, в связи с чем страница может отображаться некорректно.
Чтобы страница отображалась корректно, обновите ваш браузер.