Предприятия внедряют агентный ИИ быстрее, чем успевают выстроить управление им, создавая разрыв между обещаниями и реальной ценностью

Предприятия внедряют агентный ИИ быстрее, чем успевают выстроить управление им, создавая разрыв между обещаниями и реальной ценностью. Фото: СС0

Однако лишь 13 процентов организаций считают, что у них налажена надлежащая система управления для решения подобных задач, и этот дисбаланс порождает разрыв в исполнении, когда агенты развёрнуты изолированно, выдают результаты, на которые никто не реагирует, автоматизируют отдельные задачи вместо целых бизнес-процессов и в итоге не демонстрируют чёткой бизнес-ценности.

Проблемы управления, по мнению директора по продуктам Redwood Software Чарльза Краучмана, напрямую становятся проблемами исполнения, поскольку агенты, которые не могут безопасно взаимодействовать с корпоративными системами, не способны автоматизировать бизнес-процессы сколько-нибудь значимым образом и остаются изолированными помощниками.

Ключевая опасность заключается в том, что автономность усиливает риски: агенты работают с невероятной скоростью и на более детальном уровне, чем традиционные RPA-решения, но скорость становится уязвимостью, когда внедрение агентов приводит к утечкам конфиденциальных данных и обходу мер безопасности, особенно в условиях распространения так называемого «теневого ИИ», когда сотрудники используют несанкционированные инструменты без одобрения ИТ-отделов.

По данным опроса Deloitte среди более чем трёх тысяч руководителей по всему миру, только каждое пятое предприятие сообщило о наличии зрелой системы управления рисками, связанными с агентным ИИ, что особенно критично в эпоху программируемых финансов, где, по прогнозам Gartner, к 2030 году 20 процентов денежных транзакций станут программно-управляемыми.

Эксперты предлагают четыре основных принципа для внедрения надёжных механизмов контроля: практиковать осмысленную оркестровку, определяя более широкую бизнес-цель, которую должна выполнять система агентов, и встраивая проверки и ограничения на уровень платформы, а не в каждого отдельного агента; развивать потенциал управления, чётко определяя, какие решения агент может принимать самостоятельно, а какие требуют одобрения человека, и внедряя мониторинг в реальном времени с аудиторскими журналами; масштабировать обдуманно, начиная с менее рискованных однозадачных сценариев вроде обнаружения мошенничества или сверки счетов, избегая сложных процессов с сотнями входных данных на начальных этапах; и признавать, что разрыв в управлении напрямую связан с разрывом в навыках, поэтому сотрудников необходимо обучать переходу от выполнения рутинных операций к принятию решений, управлению и стратегическому планированию.

Итоговый принцип заключается в том, что агентный ИИ действительно повышает производительность, но без надёжных механизмов контроля риски растут ещё быстрее, поэтому стратегическая наблюдаемость и детерминированные ограничители необходимы для обеспечения соответствия недетерминированного ИИ нормативным и деловым стандартам, причём опытные руководители проектов знают, что это целостный процесс, где действия человека и цифровые компоненты должны вступать в «синхронное и методичное взаимодействие».