Каждое пятое предприятие не может в реальном времени остановить расходы вышедшего из-под контроля ИИ-агента

Каждое пятое предприятие не может в реальном времени остановить расходы вышедшего из-под контроля ИИ-агента

Источник: VentureBeat · Taryn Plumb

Команды корпоративного ИИ перестали делать ставку на единую платформу оркестрации. Среднестатистическая крупная компания сегодня использует сразу три таких платформы — и вовсе не случайно, а потому, что ни одному из поставщиков не доверяют полностью управление процессом, согласно данным VB Pulse.

Дело здесь не только в стремлении избежать привязки к одному поставщику и сохранить гибкость (хотя это играет большую роль). По-прежнему сохраняется масса неопределенности и даже недоверия к возможностям безопасности и разграничения прав доступа у вендоров. Компании хотят иметь возможность устанавливать собственные правила.

Компания Microsoft сегодня лидирует по основному использованию, в то время как Anthropic с большим отрывом опережает конкурентов в том, что компании рассматривают для внедрения в будущем. Тем не менее, организации все еще сталкиваются с множеством проблем, в особенности касающихся использования токенов и контроля за расходами на ИИ-агентов.

Эти выводы получены в ходе текущего анализа того, как компании фактически развертывают и используют ИИ: какие платформы они выбирают, чем руководствуются при принятии решений, на чем расставляют приоритеты, каковы их ожидания от ИИ, как они контролируют расходы и действительно ли их ИИ является агентным или представляет собой всего лишь чат-бот с ярлыком «агент».

VB Intelligence получает отзывы от разработчиков, находящихся на передовой: инженеров по программному обеспечению и машинному обучению (ML), продакт- и программой-менеджеров, а также вице-президентов и директоров по данным, ИИ и аналитике.

Обеспокоенность по поводу сохранения видимости и контроля

Среди 107 опрошенных предприятий агентная оркестрация стала решительно многообразной. Опрос показал, что большинство компаний не связывают себя с какой-то одной моделью: 85% используют два или более инструмента оркестрации; 64% используют три. Лишь 15% задействуют единственную платформу оркестрации.

Microsoft AI Foundry/Copilot Studio присутствует в 70% стеков, Agents SDK от OpenAI — в 68%, а Claude Platform от Anthropic — в 47%. Опрошенные разработчики также в определенной степени используют Enterprise Agent Platform от Google, LangChain/LangGraph, Salesforce Agentforce, Amazon Bedrock и LlamaIndex. В дополнение к инструментам вендоров 22% разработчиков используют собственные кастомные решения для оркестрации.

Ожидается, что эта тенденция к гибридности будет только усиливаться. Более половины респондентов (53%) заявили, что к концу 2026 года основной плоскостью управления станет гибридная. Четырех процентов планируют использовать управляемый провайдером сервис, 13% рассчитывают на собственную кастомную плоскость управления, а 11% делают ставку на внешние платформы, абстрагированные от поставщиков моделей.

В соответствии с этим более двух третей респондентов планируют сменить платформу в течение года: 15% — в ближайшие три месяца (или раньше), 24% — через три-шесть месяцев и 28% — через шесть-двенадцать месяцев. Claude Agent SDK является одним из ведущих рассматриваемых инструментов: 43% разработчиков изучают модель, созданную Anthropic. Примерно треть присматривается к Enterprise Agent Platform от Google, еще 31% сосредоточены на собственной кастомной оркестрации, а 25% изучают варианты от OpenAI.

Возможно, научившись на ошибках привязки к поставщикам в эпоху зарождения облачных технологий, компании не выбирают одного «победителя». Они целенаправленно строят будущее, в котором несколько платформ оркестрации, моделей и агентов взаимодействуют друг с другом через гибридную плоскость управления.

В целом респонденты довольны используемыми платформами, оценивая их на 4,17 балла из 5 по общему уровню удовлетворенности. Однако они менее удовлетворены простотой внедрения (3,91 балла из 5) и соотношением цены и качества (3,63 балла из 5). Стоит понаблюдать за этими оценками по мере развития платформ оркестрации и дорожных карт ИИ.

Куда компании вкладывают средства

Логика корпоративных закупок теперь основана на сочетании нескольких факторов. Помимо гибкости (ее упомянули 29% респондентов), главными соображениями являются безопасность и права доступа (17%), надежность в продакшене (15%) и контроль над выполнением задач агентами (15%). Лишь каждый десятый считает важным при покупке «гравитацию модели» — нативную совместимость с передовой базовой моделью; 8% отмечают простоту разработки, 4% ссылаются на совокупную стоимость владения и только 2% — на задержки и производительность памяти.

Расходы также отражают приоритеты предприятий в отношении видимости, безопасности и контроля. Больше всего разработчики инвестируют в мониторинг и отладку агентов (31%), а также в обеспечение безопасности и контроль доступа (30%). На инструменты для работы с рабочими процессами приходится еще 19%. Это отличается от данных предыдущего исследования VentureBeat месячной давности, когда средства на оркестрацию уходили преимущественно на инструменты рабочих процессов.

Компании в основном оптимизируют процессы по критериям надежности выполнения задач (30%), управления многошаговыми рабочими процессами (27%), продуктивности разработчиков (23%) и операционной стабильности (13%). Лишь 7% респондентов называют опыт конечного пользователя главным приоритетом на данном этапе, что указывает на то, что многие пока сосредоточены именно на оркестрации, а не на пользовательском интерфейсе (UX).

По сути, предприятия дают понять, что рабочий процесс успешен, когда он доводит до конца многошаговые задачи. Упрощение разработки и взаимодействия с конечным пользователем может стать более серьезной заботой, когда платформы будут полностью развернуты.

Проблема прозрачности

Главные опасения разработчиков при выборе платформ связаны с контролем и надзором. Они не хотят, чтобы вендоры ограничивали их способность видеть, что именно делают их агенты на конкретной платформе. На первом месте в списке находятся ограничения безопасности и прав доступа (37%), привязка к вендору (23%), ограниченная видимость и наблюдаемость (22%), а также негибкость в отношении моделей и инструментов (16%).

Между тем, на заре эпохи ИИ-агентов компании все еще испытывают трудности с контролем использования токенов агентами: каждый пятый по-прежнему не может в реальном времени остановить расходы вышедшего из-под контроля агента.

Разработчики используют различные стратегии, чтобы попытаться держать расходы на агентов под контролем: 30% полагаются на встроенные средства управления платформ (встроенные ограничения бюджетов или троттлинг), а 25% создали собственные шлюзы (прокси-мидлвар для перехвата вышедших из-под контроля агентов).

Четверть респондентов используют динамическую маршрутизацию для перенаправления тяжелых задач на недорогие модели, а 21% по-прежнему полагаются исключительно на реактивный мониторинг, такой как ретроспективные логи; у этих компаний нет кнопки экстренного отключения в реальном времени.

Один интересный факт: в отличие от предыдущего исследования, размер организации практически не влияет на зрелость финансового контроля — 18% компаний с числом сотрудников от 10 000 и более используют только реактивный контроль по сравнению с 23% более мелких компаний.

Очевидно, что, хотя предприятия осознают проблему расходов, многие из них еще не настроили свои стеки таким образом, чтобы держать их в узде.

Большинство компаний все еще не используют настоящие многошаговые агенты

Опрошенных разработчиков попросили честно оценить свои технологические стеки; судя по всему, общее мнение сводится к тому, что «агенты» медленно, но верно перерастают чат-ботов в более красивой обертке.

Цифры распределяются следующим образом: небольшое число респондентов (2%) сообщают, что от 76% до 100% их систем являются продвинутыми и в значительной степени автономными; 14% говорят, что от 51% до 75% их систем представляют собой сложные многоагентные конвейеры; а 47% заявляют, что от 26% до 50% их систем используют настоящую оркестрацию.

На другом конце спектра 35% утверждают, что лишь от 1% до 25% их систем задействуют настоящую оркестрацию; большинство развернутых решений остаются базовыми ассистентами, а 3% все еще используют исключительно чат-боты.

Это согласуется с июньским опросом VB Pulse: 71% респондентов заявили, что лишь четверть или менее развернутых ими «агентов» способны автономно выполнять многошаговую работу, и только десятая часть сообщили о развертывании агентов в масштабах всего предприятия.

Нет сомнений в том, что компании строят плоскости управления и инфраструктуру для агентов; но для многих из них настоящая волна агентных систем все еще маячит где-то на горизонте.

Оркестрация

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.