Конструктор ИИ-агентов от Google Cloud получил новую панель мониторинга и ускоренные инструменты сборки и развертывания

Google Cloud представила крупное обновление, стремясь удержать ИИ-разработчиков на своей платформе Vertex AI для концептуализации, проектирования, создания, тестирования, развертывания и модификации ИИ-агентов в корпоративных сценариях использования.

Новые функции, анонсированные сегодня, включают в себя дополнительные инструменты управления для предприятий, расширение возможностей создания агентов с помощью всего нескольких строк кода, ускорение работы благодаря современным уровням управления контекстом и развертыванию в один клик, а также управляемые сервисы для масштабирования производства и оценки, а также поддержку идентификации агентов.

Agent Builder, выпущенный в прошлом году во время ежегодного мероприятия Cloud Net, предоставляет платформу без написания кода для предприятий, позволяющую создавать агентов и подключать их к фреймворкам оркестрации, таким как LangChain.

Комплект разработки агентов Google Agent Development Kit (ADK), который позволяет разработчикам создавать агентов «менее чем за 100 строк кода», также доступен через Agent Builder. 

«Эти новые возможности подчеркивают нашу приверженность Agent Builder и упрощают процесс разработки агентов, чтобы соответствовать потребностям разработчиков независимо от того, какой технологический стек они выбирают», — сказал Майк Кларк (Mike Clark), директор по управлению продуктами Vertex AI Agent Builder. 

Создавайте агентов быстрее

Часть стратегии Google в отношении новых функций Agent Builder заключается в том, что предприятия могут встраивать оркестрацию прямо в процессе создания своих агентов. 

«Создание агента от концепции до работающего продукта включает в себя сложную оркестрацию», — отметил Кларк. 

Новые возможности, поставляемые вместе с ADK, включают:

• Передовые (SOTA) уровни управления контекстом, включая статический уровень, уровень диалога, уровень пользователя и кэша, чтобы предприятия имели больше контроля над контекстом агентов

• Готовые плагины с настраиваемой логикой. Один из новых плагинов позволяет агентам распознавать сбои при вызове инструментов и «самовосстанавливаться», повторяя задачу с использованием другого подхода

• Дополнительную языковую поддержку в ADK, включая Go, наряду с Python и Java, которые были доступны с момента запуска ADK

• Развертывание в один клик через интерфейс командной строки ADK для переноса агентов из локальной среды в живое тестирование с помощью одной команды

Уровень управления (Governance layer)

Предприятия требуют высокой точности, безопасности, наблюдаемости и проверяемости (что программа сделала и почему), а также управляемости (контроля) в своих ИИ-агентах производственного уровня.

Хотя при запуске у Google были функции наблюдаемости в локальной среде разработки, теперь разработчики могут получить доступ к этим инструментам через панель мониторинга управляемой среды выполнения Agent Engine.

Компания заявила, что это обеспечивает облачный мониторинг производства для отслеживания потребления токенов, частоты ошибок и задержек. На этой панели мониторинга наблюдаемости предприятия могут визуализировать действия, предпринимаемые агентами, и воспроизводить любые проблемы. 

Agent Engine также получит новый уровень оценки (Evaluation Layer), который поможет «симулировать производительность агентов в широком спектре взаимодействий с пользователем и ситуаций».

Этот уровень управления также будет включать:

• Идентификационные данные агентов (Agent Identities), которые, по заявлению Google, наделяют «агентов их собственными уникальными нативными идентификаторами в Google Cloud»

• Model Armor, который будет блокировать внедрение промптов (prompt injections), проверять вызовы инструментов и ответы агентов

• Центр безопасности (Security Command Center), позволяющий администраторам создавать инвентаризацию своих агентов для обнаружения таких угроз, как несанкционированный доступ

«Эти нативные идентификаторы обеспечивают глубокий, встроенный уровень контроля и четкий аудиторский след для всех действий агентов. Эти идентификаторы на базе сертификатов еще больше повышают вашу безопасность, так как их нельзя подделать, и они напрямую привязаны к жизненному циклу агента, исключая риск появления забытых учетных записей», — сказал Кларк. 

Битва конструкторов агентов 

Неудивительно, что разработчики моделей создают платформы для создания агентов и вывода их в производство. Конкуренция заключается в том, как быстро добавляются новые инструменты и функции.

Agent Builder от Google конкурирует с открытым комплектом разработки агентов от OpenAI с открытым исходным кодом, который позволяет разработчикам создавать ИИ-агентов с использованием моделей сторонних разработчиков (не от OpenAI).

Кроме того, недавно был анонсирован AgentKit, включающий в себя конструктор агентов Agent Builder, который позволяет компаниям легко интегрировать агентов в свои приложения.

У Microsoft есть платформа Azure AI Foundry, запущенная примерно в это же время в прошлом году для создания ИИ-агентов, а AWS также предлагает инструменты для создания агентов на своей платформе Bedrock, однако Google надеется, что его набор новых функций поможет ему получить конкурентное преимущество.

Тем не менее, разработчиков привлекают на свои платформы для создания ИИ-агентов не только компании, обладающие собственными моделями. Любой корпоративный поставщик услуг, имеющий библиотеку агентов, также хочет, чтобы клиенты создавали агентов в их системах. 

Захват интереса разработчиков и удержание их в экосистеме — это главная битва между технологическими компаниями сегодня, и в ней побеждают те, кто предлагает функции, упрощающие создание агентов и управление ими.