Microsoft добавит в Copilot Studio возможность требовать подтверждения от человека перед выполнением действий ИИ-агента

Это позволит разработчикам включать обязательное одобрение для каждого инструмента и каждого агента, особенно для конфиденциальных операций, таких как отправка электронных писем, закрытие заявок и обработка платежей.

Microsoft добавит в Copilot Studio возможность требовать подтверждения от человека перед выполнением действий ИИ-агента. Фото: из архива компании

Новая функция, анонсированная в дорожной карте с идентификатором 570434, приостанавливает выполнение инструмента и отображает запрос на подтверждение в канале работы агента — в Microsoft Teams или Microsoft 365 Copilot, — объясняя, какое действие собирается предпринять агент, а человек может одобрить его, разрешить на всю оставшуюся сессию или отклонить.

При этом защита работает независимо от встроенных инструкций агента, то есть даже если модель считает запуск инструмента правильным шагом, она будет вынуждена ждать решения человека.

Это должно предотвратить несанкционированное использование и потенциальный ущерб, особенно для организаций, понимающих, что автономному ИИ нельзя полностью доверять.

Функция планируется к общедоступному выпуску для веб-версии Copilot Studio в стандартной многопользовательской облачной среде Microsoft. Сроки внедрения пока не названы.

Упомянутые сервисы

Microsoft 365 Облачная служба с набором офисных веб-инструментов. В ней доступны электронная почта, документы, контакты, календарь и Office Web Apps (Word, Excel и PowerPoint).

Облачная служба с набором офисных веб-инструментов. В ней доступны электронная почта, документы, контакты, календарь и Office Web Apps (Word, Excel и PowerPoint).