ИИ-агенты сталкиваются с трудностями при развертывании в 2026 году

Заставить ИИ-агентов стабильно работать в реальных условиях, а не только на демонстрациях, оказывается сложнее, чем предполагали компании. Фрагментированные данные, нечеткие рабочие процессы и высокий уровень эскалации тормозят внедрение технологий в различных отраслях.

«Сама технология зачастую отлично работает на презентациях, — отмечает Санчит Вир Гогия (Sanchit Vir Gogia), главный аналитик Greyhound Research. — Проблемы начинаются тогда, когда ее просят действовать в условиях сложности реальной организации».

Берли Кавасаки (Burley Kawasaki), курирующий развертывание агентов в компании Creatio, вместе со своей командой разработал методологию, основанную на трех принципах: виртуализации данных для обхода задержек в хранилищах данных (data lake), панели управления агентами и KPI в качестве уровня управления, а также жестко ограниченных сценариях использования для достижения высокой степени автономности.

По словам Кавасаки, в более простых сценариях эти методы позволили агентам самостоятельно справляться с 80–90% задач. При дальнейшей настройке, по его оценкам, они смогут обеспечивать автономное решение как минимум в половине случаев, даже при более сложном развертывании.

«Люди много экспериментировали с концептуальными прототипами (PoC) и запускали множество тестов, — рассказал Кавасаки изданию VentureBeat. — Но теперь, в 2026 году, мы начинаем фокусироваться на критически важных рабочих процессах, которые повышают операционную эффективность или приносят дополнительный доход».

Почему агенты продолжают давать сбои в рабочей среде

Компании стремятся внедрить агентный ИИ в том или ином виде — часто из страха отстать, даже до конца не определив конкретные реальные сценарии использования, — но сталкиваются со значительными препятствиями в области архитектуры данных, интеграции, мониторинга, безопасности и проектирования рабочих процессов.

Первое препятствие почти всегда связано с данными, говорит Гогия. Корпоративная информация редко представлена в аккуратном или унифицированном виде: она рассредоточена по SaaS-платформам, приложениям, внутренним базам данных и другим хранилищам. Часть данных структурирована, часть — нет.

Но даже когда компании справляются с проблемой извлечения данных, серьезным вызовом становится интеграция. Агенты полагаются на API и механизмы автоматизации для взаимодействия с приложениями, однако многие корпоративные системы создавались задолго до того, как подобное автономное взаимодействие стало реальностью, отмечает Гогия.

Это может приводить к неполным или несогласованным API, а системы могут непредсказуемо реагировать на программные запросы. Организации также спотыкаются при попытке автоматизировать процессы, которые никогда не были формально описаны, добавляет Гогия.

«Многие бизнес-процессы зависят от неявных знаний (tacit knowledge), — поясняет он. — Сотрудники знают, как разрешать исключительные ситуации, с которыми они уже сталкивались, без четких инструкций. Однако эти недостающие правила и инструкции становятся поразительно очевидными, когда рабочие процессы переводятся в логику автоматизации».

Цикл настройки

Creatio развертывает агентов в рамках «ограниченной сферы с четкими защитными барьерами», за которой следует «явный» этап настройки и валидации, поясняет Кавасаки. Команды изучают первые результаты, вносят необходимые корректировки и проводят повторное тестирование до тех пор, пока не будет достигнут приемлемый уровень точности.

Этот цикл обычно следует такой схеме:

• Настройка на этапе проектирования (до запуска): производительность улучшается за счет промт-инжиниринга, оборачивания контекста, определения ролей, проектирования рабочих процессов и привязки к данным и документам.

• Коррекция с участием человека (во время выполнения): разработчики одобряют, редактируют или разрешают нестандартные ситуации. В случаях, когда вмешательство человека требуется чаще всего (эскалация или утверждение), пользователи устанавливают более жесткие правила, предоставляют больше контекста, обновляют этапы рабочих процессов или сужают доступ к инструментам.

• Постоянная оптимизация (после запуска): разработчики продолжают следить за частотой исключений и результатами, после чего регулярно проводят настройку по мере необходимости, что со временем помогает повысить точность и автономность.

Команда Кавасаки применяет генерацию с дополненным извлечением (RAG), чтобы привязать агентов к базам знаний компании, данным CRM и другим проприетарным источникам.

После развертывания агентов «в поле» за ними следят с помощью дашборда, который предоставляет аналитику производительности, данные о конверсии и возможности аудита. По сути, к агентам относятся как к цифровым сотрудникам. У них есть собственный уровень управления с панелями мониторинга и ключевыми показателями эффективности (KPI).

Например, агент по онбордингу будет интегрирован в стандартный интерфейс панели управления, обеспечивающий мониторинг агента и телеметрию. Это часть уровня платформы — оркестрация, управление, безопасность, выполнение рабочих процессов, мониторинг и встраивание пользовательского интерфейса, — который располагается «над LLM», говорит Кавасаки.

Пользователи видят дашборд с используемыми агентами, а также с процессами, рабочими процессами и результатами выполнения каждого из них. Они могут детально изучить («провалиться») конкретную запись (например, рекомендацию или продление), чтобы увидеть пошаговый лог выполнения и сопутствующие коммуникации. Это необходимо для обеспечения отлаживаемости, поиска ошибок и доработки агента. По словам Кавасаки, чаще всего корректировки касаются логики и стимулов, бизнес-правил, контекста запросов и доступа к инструментам.

Основные проблемы, возникающие после развертывания:

• Большой объем обработки исключений: на начальном этапе часто происходят всплески краевых случаев (edge cases), пока защитные барьеры и рабочие процессы не будут настроены.

• Качество и полнота данных: отсутствующие или несогласованные поля и документы могут приводить к эскалациям; команды могут определить, какие данные следует в первую очередь использовать для привязки, а какие проверки автоматизировать.

• Прослеживаемость (аудит) и доверие: регулируемым клиентам, в особенности, требуются четкие логи, процедуры утверждения, контроль доступа на основе ролей (RBAC) и следы аудита.

«Мы всегда объясняем, что необходимо выделять время на обучение агентов, — рассказала генеральный директор Creatio Екатерина Костерева изданию VentureBeat. — Это не происходит мгновенно при включении агента: ему требуется время, чтобы во всем разобраться, после чего количество ошибок уменьшится».

«Готовность данных» не всегда требует масштабной перестройки

При планировании развертывания агентов частым первоначальным вопросом является: «Готовы ли мои данные?» Компании понимают важность доступа к данным, но их может отпугнуть масштабный проект по консолидации информации.

Однако виртуальные соединения могут предоставить агентам доступ к базовым системам в обход типичных задержек озер, хранилищ или витрин данных (data lake / lakehouse / warehouse). Команда Кавасаки создала платформу, которая интегрируется с данными, а сейчас работает над подходом, позволяющим извлекать информацию в виртуальный объект, обрабатывать ее и использовать как стандартный объект для интерфейсов и рабочих процессов. Таким образом, им не нужно «хранить или дублировать» большие объемы данных в собственной базе данных.

Этот метод может быть полезен в таких сферах, как банковское дело, где объемы транзакций слишком велики для копирования в CRM, но при этом «они по-прежнему ценны для анализа с помощью ИИ и триггеров», отмечает Кавасаки.

После создания интеграций и виртуальных объектов команды могут оценить полноту, согласованность и доступность данных, а также определить легкодоступные точки для старта (например, рабочие процессы с большим количеством документов или неструктурированные процессы).

Кавасаки подчеркнул важность «реального использования данных в базовых системах, которые, как правило, и так являются наиболее чистыми или служат единым источником правды».

Подбор агентов под конкретные задачи

Лучше всего для автономных (или полуавтономных) агентов подходят высоконагруженные рабочие процессы с «четкой структурой и контролируемыми рисками», считает Кавасаки. Например, прием и проверка документов при онбординге или оформлении кредита, либо стандартизированные рассылки, такие как продление договоров и реферальные программы.

«Особенно когда вы можете связать их с очень конкретными процессами внутри индустрии — именно здесь вы можете реально измерить и получить высокую окупаемость инвестиций (ROI)», — говорит он.

Например, финансовые институты по своей природе часто изолированы в рамках разрозненных отделов. Команды коммерческого кредитования работают в собственной среде, специалисты по управлению благосостоянием — в другой. Но автономный агент может проанализировать информацию по разным отделам и изолированным хранилищам данных, чтобы выявить, например, коммерческих клиентов, которые могут стать хорошими кандидатами на услуги по управлению благосостоянием или консультационные услуги.

«Вы думаете, что это очевидная возможность, но никто не смотрит на ситуацию через все эти разрозненные хранилища (силосы)», — отмечает Кавасаки. По его утверждению, некоторые банки, применившие агентов именно к этому сценарию, увидели «выгоду в виде миллионов долларов дополнительного дохода» (конкретные организации он не назвал).

Однако в других случаях — особенно в регулируемых отраслях — агенты с более длинным контекстом не просто предпочтительны, а необходимы. Например, в многошаговых задачах, таких как сбор улик или данных из разных систем, суммирование, сравнение, подготовка проектов коммуникаций и формирование обоснований, пригодных для аудита.

«Агент не дает ответ мгновенно, — говорит Кавасаки. — На выполнение полных комплексных задач от начала до конца могут уйти часы или дни».

Это требует скоординированного агентского выполнения, а не «одного гигантского запроса (промта)», поясняет он. Такой подход разбивает работу на детерминированные шаги, выполняемые субагентами. Память и управление контекстом могут поддерживаться на различных этапах и временных интервалах. Привязка к источникам с помощью RAG помогает удерживать результаты в рамках утвержденных источников, а пользователи получают возможность указывать на необходимость расширения поиска на файловые ресурсы и другие хранилища документов.

Эта модель обычно не требует кастомного дообучения или новой базовой модели. Какую бы модель ни использовали компании (GPT, Claude, Gemini), производительность повышается за счет промтов, описания ролей, контролируемых инструментов, рабочих процессов и привязки к данным, отмечает Кавасаки.

По его словам, цикл обратной связи «уделяет особое внимание» промежуточным контрольным точкам. Люди проверяют промежуточные результаты (такие как сводки, извлеченные факты или проекты рекомендаций) и исправляют ошибки. Затем их можно преобразовать в более качественные правила и источники поиска, сузить круг доступных инструментов и улучшить шаблоны.

«Что важно для такого стиля автономного агента, так это то, что вы объединяете лучшее из обоих миров: динамическое рассуждение ИИ с контролем и мощью истинной оркестрации», — подчеркивает Кавасаки.

В конечном счете агенты требуют скоординированных изменений в корпоративной архитектуре, новых фреймворков оркестрации и явного контроля доступа, отмечает Гогия. Агентам необходимо присваивать идентификаторы (учетные записи), чтобы ограничивать их привилегии и удерживать в заданных рамках. Наблюдаемость (observability) имеет критически важное значение: инструменты мониторинга могут фиксировать показатели завершения задач, события эскалации, системные взаимодействия и паттерны ошибок. Подобная оценка должна стать постоянной практикой, а агентов следует тестировать на то, как они реагируют при столкновении с новыми сценариями и необычными вводными.

«Как только система ИИ получает возможность совершать действия, предприятиям приходится отвечать на ряд вопросов, которые редко возникают при развертывании копилотов», — говорит Гогия. Среди них: к каким системам агенту разрешено получать доступ? Какие типы действий он может выполнять без одобрения? Какие операции всегда должны требовать решения человека? Каким образом каждое действие будет фиксироваться и проверяться?

«Те [компании], которые недооценивают эту сложность, часто застревают на демонстрациях, которые выглядят впечатляюще, но не способны выжить в условиях реальной операционной сложности», — резюмирует Гогия.