Агентный ИИ трансформирует рабочие процессы предприятий

При поддержке Edgeverve

Интеллектуальные полуавтономные ИИ-агенты, выполняющие сложные бизнес-задачи в реальном времени, — это впечатляющая концепция. Однако переход от эффектных пилотных проектов к реальной работе в продакшене требует большего, чем просто удачные промпты или демонстрационные концепт-карты. Необходимы четкие цели, рабочие процессы на основе данных и корпоративная платформа, которая с первого дня сочетает в себе автономность, управление, наблюдаемость и гибкость со строгими защитными механизмами.

От пилотных проектов к «оперативным серым зонам»

Следующий этап создания ценности кроется в связующем зле между приложениями — в тех оперативных серых зонах, где передача данных, сверки, согласования и поиск информации по-прежнему зависят от людей. Назначение агентов на эти участки означает стирание границ между системами, применение интеллектуального анализа к контексту и переосмысление процессов, которые никогда ранее не были формально автоматизированы. Многие пилотные проекты буксуют потому, что запускаются как лабораторные эксперименты, а не как ориентированные на результат инициативы, привязанные к рабочим системам, элементам контроля и KPI.

Начинайте с результатов, а не с алгоритмов. Превратите организационные KPI (денежный поток, DSO, соблюдение SLA, уровень соблюдения нормативных требований, MTTR, NPS, утечки по страховым выплатам и т. д.) в цели для агентов, а затем разбейте их на задачи для отдельных агентов и мультиагентных систем. Только после того, как цели станут четкими, следует переходить к выбору рабочих процессов и декомпозиции задач.

Выберите цели, затем декомпозируйте работу

Что на самом деле означает «цель»? В сфере агентских программ цель — это бизнес-результат и сценарий использования, который его обеспечивает. Например, целевой результат: «сократить объем неразнесенных денежных средств на 20%»; сценарий использования: «внесение денежных средств и обработка исключений». Имея на руках сценарий использования, выполните декомпозицию задач на уровне ролей: сопоставьте человеческие роли (например, аналитик по учету денежных средств, координатор по управлению объектами), перечислите их задачи и определите, какие из них подходят для автоматизации с помощью агентов (извлечение данных, сопоставление, проверка политик, предложение решений, инициирование транзакций).

Для выполнения этих задач требуется внедренная в рабочие процессы структура данных, которая может читать, записывать и анализировать информацию в корпоративных системах, соблюдая при этом права доступа. Данные должны быть готовы к работе с ИИ, доступны для поиска, управляемы, промаркированы там, где это необходимо, дополнены для извлечения информации (RAG) и защищены политиками в отношении персональных данных (PII), данных платежных карт (PCI) и нормативных ограничений.

Интеграция выходит за рамки API

API — это лишь один из способов интеграции, но не единственный. Надежное выполнение задач агентами обычно сочетает в себе:

• Стабильные API

  с управлением жизненным циклом для основных систем

• Триггеры на основе событий

  (потоки, веб-хуки, CDC) для реагирования в реальном времени

• Резервные интерфейсы UI/RPA

  там, где API отсутствуют

• Коннекторы поиска/RAG

  для документов и баз знаний

• Управление политиками

  для инструментов и действий с целью обеспечения соблюдения прав и разделения обязанностей

Главная цель — надежность интеграции (основанная на идемпотентности, повторных попытках, механизмах защиты от сбоев и стандартизированных схемах инструментов), чтобы агенты не «галлюцинировали» действия, которые предприятие не может проверить.

Краткий пример: финансы и административно-хозяйственная деятельность в продакшене

Внутри нашей организации мы внедрили специализированных агентов в действующей среде финансового директора и в сфере обслуживания зданий. В финансовом отделе семь агентов взаимодействовали с производственными системами и реальными структурами подотчетности. Результаты первого года работы включали: рост ежемесячного денежного потока более чем на 3%, прирост производительности в затронутых рабочих процессах на 50%, ускорение адаптации на 90%, переход от обработки на уровне учетных записей к оркестрации на уровне функций, а также увеличение денежного потока на $32 млн. Эти результаты не гарантируют аналогичных успехов везде; они показывают, что проектирование продуктов может приносить измеримые результаты в широком масштабе.

Четыре столпа проектирования: автономность, управление, наблюдаемость и оценка, гибкость

1) Автономность: соразмеряйте ее с риском

Автономность находится в определенном спектре. Ранние разработки часто автоматизируют четко ограниченные задачи; другие занимаются поисковыми/аналитическими агентами; все чаще команды нацеливаются на критически важные транзакционные агенты (платежи, подключение поставщиков, изменение цен). Правило таково: сопоставляйте автономность с риском и кодируйте режим работы (только предложения, предложение-и-утверждение или выполнение-с-откатом) для каждой задачи.

2) Управление: защитные механизмы по дизайну, а не в качестве надстроек

Неограниченные в действиях агенты создают неприемлемый риск. Встройте защитные барьеры в план:

• Политики и разрешения: привязка инструментов/действий к идентификаторам, областям видимости и правилам разделения обязанностей (SoD).

• Участие человека в контуре (HITL): в случаях преодоления критически важных порогов (сумма, риск поставщика, регуляторное воздействие).

• Управление жизненным циклом агента: версионирование, контроль изменений, шлюзы регрессионного тестирования, рабочие процессы утверждения и вывод из эксплуатации.

• Оркестрация сторонних агентов: проверка внешних агентов, таких как поставщики, возможности, области видимости, логи, SLA.

• Инциденты и откат: аварийные выключатели (kill-switches), безопасный режим и компенсирующие транзакции. Именно так вы

  безопасно масштабируете инновации, защищая при этом бренд, соответствие требованиям и клиентов.

3) Наблюдаемость и оценка: доверие строится на телеметрии

Производственные агенты требуют такой же строгости, как и любая основная платформа:

• Телеметрия: сбор полных трассировок выполнения на этапах восприятия, планирования, использования инструментов и действий, подкрепленный структурированными логами и возможностью воспроизведения.

• Автономные оценки (оффлайн): сценарные тесты, ред-теминг, проверки на предвзятость и безопасность, бенчмарки стоимости/производительности; сравнение базовых показателей с конкурирующими решениями.

• Оценки в реальном времени (онлайн): теневой режим, A/B тестирование, канареечные релизы, оповещения о нарушении защитных барьеров, циклы обратной связи с человеком.

• Объяснимость и аудируемость: почему было предпринято то или иное действие, какие данные/инструменты использовались и кто дал одобрение.

4) Гибкость: закладывайте изменчивость, проектируйте с возможностью замены

Модели, инструменты и поставщики меняются быстро. Относитесь к агентным возможностям как к валюте платформы: создайте среду, в которой команды могут оценивать, выбирать и заменять модели/инструменты без разрушения существующей сборки. Используйте маршрутизатор моделей, реестр инструментов и интерфейсы на основе контрактов, чтобы обновления были контролируемыми экспериментами, а не полным переписыванием кода.

Структура агентской платформы: как платформоизация превращает цели в результаты

Настоящее агентское предприятие требует платформенной основы, которая преобразует цели в результаты, а не лоскутного одеяла из изолированных пилотных проектов. Эта платформа обеспечивает каскадирование KPI от уровня предприятия к агентам, управляет декомпозицией задач и мультиагентным планированием, а также предоставляет регулируемые инструменты и доступ к данным через API, RPA, поиск и базы данных.

Она централизует знания и память с помощью RAG и векторных хранилищ, обеспечивает соблюдение корпоративных средств контроля с помощью механизма политик, а также управляет производительностью и безопасностью через унифицированный уровень моделей. Она поддерживает надежную оркестрацию собственных и сторонних агентов с общим контекстом, внедряет глубокие конвейеры наблюдаемости и оценки, а также применяет дисциплинированную инженерию релизов от песочницы до общего доступа (GA). Наконец, она обеспечивает долгосрочную устойчивость за счет управления жизненным циклом (версионирование, прекращение поддержки, сценарии реагирования на инциденты и аудируемая история).

Защитные механизмы в действии: пример из сферы BFSI

Рассмотрим обработку исключений по платежам в банковской сфере — это высокая степень риска, жесткое регулирование и видимость для клиента. Агент предлагает решение (например, автоматическую сверку или эскалацию) только тогда, когда:

• Транзакция находится ниже порогов риска; при их превышении инициируется утверждение с участием человека (HITL).

• Пройдены все проверки политик (KYC/AML, скорость проведения операций, санкции).

• Хуки наблюдаемости фиксируют обоснование, задействованные инструменты и использованные данные.

• Предусмотрен откат/компенсация в случае сбоев в нисходящих системах. Этот паттерн применим к подключению поставщиков, изменению цен или урегулированию претензий — критически важной работе с четкими правилами безопасности.

Масштабирование за пределы пилотных проектов

Масштабирование агентского ИИ за рамки пилотных проектов требует дисциплинированной готовности по девяти направлениям: руководители должны четко определить, какие KPI имеют значение и как цели агентов связаны с ними, определить, какие задачи персонала автоматизируются агентами, а какие остаются под управлением человека, и сопоставить каждую из них с правильным режимом автономности — от «только предложения» до «предложения-и-утверждения» и «выполнения-с-откатом». Они должны внедрить защитные механизмы управления, включая точки HITL и элементы контроля жизненного цикла; обеспечить надежную наблюдаемость и оценку с помощью телеметрии, воспроизведения, аудитов и оффлайн/онлайн тестов; а также подтвердить готовность данных с помощью управляемых, защищенных политиками потоков данных с дополненным извлечением. Интеграция должна быть надежной, с управлением жизненным циклом API, триггерами событий и резервными вариантами RPA/другими методами. Базовая платформа должна обеспечивать возможность замены моделей и оркестрацию собственных и сторонних агентов без необходимости перестройки. Наконец, измерение результатов должно быть сосредоточено на реальном операционном влиянии — денежном потоке, времени цикла, качестве и снижении рисков, а не на количестве выполненных задач.

Итог

Агентский ИИ — это не кратчайший путь, это новая система работы. Предприятия, которые подходят к нему с дисциплиной платформы, согласуя автономность с риском, внедряя управление и наблюдаемость и проектируя систему с возможностью замен, превратят пилотные проекты в реальную ценность в продакшене. Те, кто этого не делает, продолжают накапливать впечатляющие, но несвязанные между собой демо-версии. Разница заключается не в том, как быстро вы выпускаете агента, а в том, насколько осознанно вы проектируете вокруг него предприятие.

Н. Шашидар (N. Shashidar) — старший вице-президент и глобальный руководитель отдела управления продуктами в EdgeVerve.

Спонсорские статьи — это контент, подготовленный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко промаркированы. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.