Управление корпоративными ИИ-агентами: пробелы

Предприятия развертывали ИИ-агенты раньше, чем внедрили средства контроля, необходимые для управления ими, — и делали это осознанно. Таков главный вывод пяти параллельных опросов, проведенных подразделением VentureBeat Research в июне и охвативших все уровни стека ИИ-агентов. Теперь эти компании в спешном порядке дорабатывают системы под собственные стандарты и закладывают на это бюджеты: в каждом из пяти исследованных нами уровней контроля от 57 до 68% предприятий планируют сменить поставщиков или подключить новых в течение 12 месяцев, а примерно треть (в зависимости от уровня) — в текущем квартале.

VentureBeat Research оценило пять элементов контроля, которые необходимо настроить в компании, прежде чем можно будет доверять агенту: идентификацию, оценку качества (evaluation), телеметрию затрат, уровень контекста и оркестрацию. Идентификация определяет, какому агенту и что разрешено делать, а также под чьими учетными данными. Оценка качества определяет, насколько хороша работа агента. Телеметрия затрат отслеживает стоимость работы каждого агента. Уровень контекста предоставляет бизнес-данные и определения, к которым агенты обращаются при формировании ответов. А плоскость управления оркестрацией координирует многоэтапные задачи агентов. Каждый из наших пяти отчетов посвящен одному из этих элементов контроля.

Большинство развернутых «агентов» — это просто чат-боты с новой вывеской. Семидесять один процент предприятий заявил, что лишь четверть или меньше их развернутых «агентов» способны самостоятельно выполнять многоэтапные задачи; и только 10% утверждают, что большинство используемых ими решений — это настоящие агенты. Респонденты отлично понимают, о чем говорят: 81% из них рекомендуют или принимают решения о закупках ИИ в своих компаниях. Одиночный чат-бот с запросом, ответ на который в обязательном порядке проверяет человек, не нуждается ни в одном из видов контроля, описываемых в остальных четырех отчетах. Настоящему многоэтапному агенту нужны все они — и при этом большинство предприятий не могут точно сказать, какой именно тип решений они развернули. (Полные результаты: Отчет об агентской оркестровке.)

Автономность опережает доверие к механизмам ее оценки. Две трети предприятий либо уже разрешают агенту отправлять код или изменения в систему на основе результатов только автоматической оценки без участия человека, либо активно внедряют этот подход в течение ближайших 12 месяцев. Лишь 5% полностью доверяют оценкам, на основе которых принимаются такие решения, при этом за последний год половина предприятий выпускала в продакшен агентов, прошедших внутреннее тестирование, но впоследствии вызвавших сбои в работе с клиентами. Прежде чем исключать человека из какого-либо рабочего процесса, протестируйте оценки на реальных результатах работы в продакшене, а не на внутренних бенчмарках. (Полные результаты: Отчет о надежности ИИ-агентов и оценках.)

Компании, позволяющие агентам использовать общие учетные данные, сталкиваются с проблемами чаще. Шестьдесят девять процентов компаний разрешают хотя бы некоторым из своих агентов делить учетные данные — когда несколько агентов работают под одним ключом API или одной служебной учетной записью. Организации, допускающие шеринг учетных записей, сталкивались с инцидентами безопасности или ситуациями на грани инцидента в 63.5% случаев (47 из 74), в то время как среди компаний, где каждый агент обладает собственной изолированной учетной записью, этот показатель составил 40.9% (9 из 22). Решение заключается в настройке изолированных учетных записей для каждого агента, начиная с тех, которые имеют доступ к производственным системам. (Полные результаты: Отчет о безопасности и идентификации агентов.)

Самое дорогое железо в компании работает наполовину или хуже. Более 8 из 10 предприятий, использующих собственные графические процессоры (GPU), сообщили об их загрузке на уровне 50% или ниже, и только 44% тщательно отслеживают реальные затраты на ИИ-вычисления и их окупаемость. Первый показатель, за которым стоит гнаться, — это не покупка новых GPU, а повышение уровня утилизации и расчет стоимости на каждую рабочую нагрузку уже имеющихся мощностей. (Полные результаты: Отчет об ИИ-инфраструктуре и вычислениях.)

Агенты уверенно отвечают на основе никем не управляемых данных. За последние шесть месяцев 57% предприятий сталкивались с ситуациями, когда агент уверенно выдавал неверный ответ из-за отсутствия или несогласованности бизнес-контекста (ошибочные метрики, устаревшие определения, недостающие документы), причем у большинства это происходило неоднократно. Управление определениями, на основе которых агенты формируют ответы (в первую очередь метриками и сущностями), должно предшествовать масштабированию зависящих от них агентов. (Полные результаты: Отчет об уровнях контекста / RAG.)

На ни один из уровней пока не пришел доминирующий игрок: стандартом де-факто сегодня служат встроенные инструменты крупных ИИ-платформ, которые предприятия уже используют. Намерение сменить поставщика выше всего в сфере оркестрации: 68% планируют внедрить, добавить или заменить платформы в течение 12 месяцев, а 34% — в текущем квартале. Наши опросы не уточняли, куда именно направляются эти средства — в сторону встроенных инструментов платформ или к специализированным решениям, бросающим им вызов, — и именно этот открытый вопрос определит развитие рынка в течение следующих четырех кварталов.

Об этом исследовании

VentureBeat Research провело пять параллельных опросов в июне 2026 года в рамках программы VB Pulse: по агентской оркестровке (101 респондент), надежности агентов и оценкам (157), безопасности и идентификации агентов (107), ИИ-инфраструктуре и вычислениям (107), а также уровням контекста / RAG (101). Всего в опросах приняли участие 573 квалифицированных респондента из организаций со штатом от 100 сотрудников и более. Выборки формировались методом самоотбора, и некоторые результаты следует воспринимать как общие тенденции; каждый отчет сопровождается подробным описанием методологии. Общая закономерность говорит сама за себя: каждый опрос независимо друг от друга указывает на одно и то же направление. VentureBeat выпускает как данную серию исследований, так и конференцию VB Transform, на которой эти отчеты были впервые представлены.