Агентные предприятия совершенствуют обучение ИИ

При поддержке Splunk

Каждый день организации получают информацию, которую их ИИ-системы так никогда и не используют.

Специалист по безопасности исправляет расследование, сгенерированное ИИ. Сетевой инженер определяет первопричину повторяющегося сбоя. Команда наблюдаемости обнаруживает, что определенная закономерность задержек, логов и изменений в инфраструктуре предсказывает деградацию сервиса. Команда клиентских операций узнает, какие сигналы указывают на высокую вероятность эскалации.

Каждый такой момент содержит ценные организационные знания. Но в большинстве предприятий эти знания растворяются в тикетах, дашбордах, ветках чатов, пост-инцидентных разборах и в головах отдельных экспертов. Это помогает решить текущую проблему, но редко становится частью повторно используемой системы, которая улучшает будущие решения, принимаемые ИИ.

В этом заключается следующий вызов для агентного предприятия.

Будущее будет определяться не просто тем, у кого самая мощная модель или самые автономные агенты. Многие организации будут иметь доступ к схожим передовым моделям. Многие развернут агентов в сфере безопасности, ИТ, инженерии, обслуживания клиентов и бизнес-операций.

Настоящим дифференциатором станет то, смогут ли эти агенты учиться на опыте окружающей их организации.

Не за счет постоянного переобучения базовой модели, а путем сбора операционного опыта, превращения его в институциональные знания и предоставления этих знаний будущим агентам, рабочим процессам и решениям.

Агентное предприятие — это не просто организация, которая использует ИИ. Это организация, которая учится с помощью ИИ.

Агентные предприятия позволяют ИИ-системам учиться на своем опыте

Дискуссии об ИИ долгое время вращались вокруг возможностей моделей: большие окна контекста, лучшие способности к рассуждению, быстрый инференс, более мощное использование инструментов и более сложное агентное поведение.

Эти достижения важны. Но в условиях предприятия модель — это лишь часть системы.

Модель автоматически не знает, как работает конкретная организация. Она изначально не знает, какой шаг по устранению неполадок помог решить прошлый сбой, какое исправление аналитика улучшило расследование угроз, какой сетевой сигнал предшествовал сбою сервиса или какая внутренняя политика должна переопределить в остальном правдоподобную рекомендацию.

Эти знания принадлежат предприятию.

Чтобы агентные системы совершенствовались, организациям нужен способ собирать эти знания и делать их пригодными для повторного использования. Во многих случаях для этого не требуется менять саму модель. Требуется изменить экосистему вокруг модели: базу знаний, уровень извлечения данных (retrieval layer), промпты, политики, защитные механизмы (guardrails), логику маршрутизации и рабочие процессы, которые определяют поведение агентов.

Сама модель может оставаться прежней. Система обучения вокруг нее становится умнее.

Петли обратной связи превращают каждый результат в момент обучения для агентов

Каждый агентный рабочий процесс генерирует сигналы.

Агент получает запрос. Он извлекает контекст, анализирует возможные действия, вызывает инструменты и генерирует ответы. Человек принимает, отклоняет или изменяет этот ответ. Нижестоящие системы показывают, сработало ли действие.

Вся эта цепочка представляет ценность.

Наблюдаемость ИИ дает организациям видимость происходящего: промпт, ответ, путь рассуждений, вызовы инструментов, источники данных, промежуточные шаги, типы сбоев и результаты. Без такой видимости организации не смогут понять, почему агент вел себя именно так, не говоря уже о том, чтобы улучшить его поведение.

Но одной лишь наблюдаемости недостаточно.

Главная возможность заключается в том, чтобы превратить наблюдаемое поведение в институциональные знания. Трейс (трассировка) должен не просто помогать разработчику и операторам отлаживать агента. Он должен помочь организации понять, чему научился агент, что исправил человек, за каким результатом это последовало и что следует изменить перед следующим аналогичным событием.

Это переход от мониторинга ИИ к обучению ИИ.

В агентном предприятии петли обратной связи связывают действие с результатом, результат — со знаниями, а знания — с будущими действиями.

Система обучения на практике в сферах безопасности, наблюдаемости и сетей

Рассмотрим сервис, испытывающий периодическую деградацию.

Агент наблюдаемости обнаруживает необычные задержки и уровень ошибок. Сетевой агент выявляет потерю пакетов на определенном маршруте. Агент безопасности замечает, что в то же временное окно наблюдается подозрительное поведение аутентификации и необычный трафик из ранее неизвестного источника.

Каждый агент по отдельности имеет лишь частичное представление. Вместе они создают более полную операционную картину.

Когда этот инцидент происходит впервые, может потребоваться вмешательство человеческих экспертов. Сетевой инженер подтверждает, что потеря пакетов была вызвана неправильно сконфигурированным изменением маршрутизации. Аналитик безопасности определяет, что подозрительный трафик был не атакой, а побочным эффектом неправильно маршрутизируемого внутреннего сервиса. SRE-инженер связывает сетевое событие с деградацией приложения.

Это решение содержит знания, которые организации не должны изучать заново.

Зрелая система агентного обучения фиксировала бы трассировки, исправления людей, контекст топологии, результаты проверок безопасности, сигналы наблюдаемости и шаги по окончательному устранению неполадок. Она сохраняла бы взаимосвязь между этими сигналами: паттерн задержки, сетевой путь, поведение учетных записей, изменения маршрутизации и устранение неполадок.

В следующий раз при появлении похожего паттерна агенты не начнут с нуля. Они смогут извлечь предыдущий кейс, сравнить текущие условия, порекомендовать проверенный путь диагностики и передать задачу на эскалацию с лучшим контекстом.

Базовую передовую модель не нужно было переобучать.

Организация получила новые знания.

Архитектура обучающегося агентного предприятия

Ориентированному на обучение агентному предприятию требуется нечто большее, чем просто модель или чат-бот. Ему нужна архитектура, способная фиксировать опыт, превращать его в пригодные для использования знания, связывать эти знания с операционным контекстом и управлять тем, как они меняют будущее поведение агентов.

Память сохраняет то, что произошло: что видел агент, что он сделал, где вмешивались люди и к каким результатам это привело.

Базы знаний превращают этот опыт в повторно используемые рекомендации, включая плейбуки, примеры, политики, процедуры и доказательства.

Фабрика данных (data fabric) объединяет операционную среду. Сигналы, необходимые агентам, распределены по логам, метрикам, трейсам, тикетам, системам идентификации, инструментам безопасности, сетевой телеметрии, платформам для совместной работы и бизнес-приложениям. Фабрика данных делает эти сигналы доступными для поиска, корреляции, управления и использования в контексте.

Наблюдаемость ИИ объясняет поведение агентов путем сбора промптов, вызовов инструментов, промежуточных шагов, ответов, обратной связи и результатов. Такая прозрачность помогает организациям понять, где агенты преуспевают, где они терпят неудачу и что следует улучшить.

Управляющая плоскость (control plane) регулирует то, как обучение превращается в изменения: какие знания продвигаются, какие промпты или политики обновляются, какие агенты могут использовать новую информацию, какие одобрения требуются и как проверяются изменения.

В совокупности эти возможности позволяют ИИ-системам со временем совершенствоваться контролируемым, надежным образом, позволяя предприятию учиться на собственных операциях.

Организации, которые учатся быстрее всех, победят

Следующая эра ИИ не будет выиграна одними лишь моделями. Ее выиграют организации, способные фиксировать то, чему они учатся на каждом рабочем процессе, экспертном исправлении, инциденте, расследовании и результате.

Наиболее продвинутые агентные предприятия не будут просто развертывать больше агентов. Они будут строить системы, которые позволяют каждому агенту извлекать выгоду из коллективных знаний организации.

Это означает объединение операционных данных через фабрику данных. Это означает наблюдение за поведением агентов на уровне, достаточном для его понимания. Это означает сохранение опыта в памяти и его институционализацию в базах знаний. Это означает использование управляющей плоскости для контроля того, как обучение меняет поведение агентов.

Будущее ИИ — это не единственный автономный агент, действующий в одиночку. Это экосистема агентов, людей, данных и средств контроля, которая со временем обучается.

Организации, которые построят такую экосистему, создадут ИИ-системы, которые становятся лучше с каждым взаимодействием. Не потому, что модель постоянно меняется, а потому, что само предприятие становится умнее.

Узнайте больше о том, как Cisco Data Fabric на базе платформы Splunk ускоряет развитие агентных операций.

Хао Ян (Hao Yang) — вице-президент по искусственному интеллекту в компании Splunk, входящей в состав Cisco.

Спонсорские статьи — это контент, созданный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко промаркированы. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.