Инструменты искусственного интеллекта Salesforce повышают прозрачность работы агентов поддержки
Salesforce в четверг представила набор инструментов мониторинга, призванный решить одну из самых сложных проблем в корпоративном искусственном интеллекте: как только компании развертывают ИИ-агенты для обработки реальных взаимодействий с клиентами, они зачастую понятия не имеют, как эти агенты принимают решения.
Новые функции, встроенные в платформу Salesforce Agentforce 360, предоставляют организациям детализированную видимость каждого действия ИИ-агентов, каждого шага их рассуждений и каждого срабатывания защитных механизмов. Этот шаг предпринимается на фоне того, как бизнес сталкивается с фундаментальным противоречием при внедрении ИИ: технология сулит огромный рост эффективности, но руководители по-прежнему с опаской относятся к автономным системам, которые они не могут полностью понять или контролировать.
«Нельзя масштабировать то, чего не видишь», — заявил Адам Эванс (Adam Evans), исполнительный вице-президент и генеральный менеджер подразделения Salesforce AI, в пресс-релизе, посвященном выпуску новинки. По данным компании, за последнее время предприятия увеличили внедрение ИИ на 282%, что создало острую необходимость в системах мониторинга, способных отслеживать целые парки ИИ-агентов, принимающих реальные бизнес-решения.
Задача, которую стремится решить Salesforce, кажется обманчиво простой: ИИ-агенты работают, но никто не знает почему. Бот службы поддержки может успешно разрешить вопрос с налогообложением или назначить встречу, но развернувшая его компания не может проследить логическую цепочку, приведшую к такому результату. Когда что-то идет не так — или когда агент сталкивается с нестандартным случаем, — у компаний отсутствуют диагностические инструменты для понимания того, что произошло.
«Агентская наблюдаемость (Agentforce Observability) действует как система управления полетами, позволяя не просто мониторить, но также анализировать и оптимизировать работу агентов», — отметил Гэри Лерхаупт (Gary Lerhaupt), вице-президент Salesforce AI, руководящий разработкой систем наблюдаемости в компании, в эксклюзивном интервью VentureBeat. Он подчеркнул, что система предоставляет специфичные для бизнеса метрики, которые упускают традиционные инструменты мониторинга. «В сфере обслуживания это могут быть показатели вовлеченности или перенаправления запросов. В продажах — количество назначенных и конвертированных лидов или процент ответов».
Как инструменты мониторинга ИИ помогли компаниям 1-800Accountant и Reddit отслеживать принятие решений автономными агентами
Ставки становятся очевидны на этапах первых клиентских внедрений. Райан Типлс (Ryan Teeples), технический директор 1-800Accountant, рассказал, что его компания развернула агентов Agentforce в качестве круглосуточной цифровой рабочей силы, обрабатывающей сложные налоговые запросы и занимающейся планированием встреч. ИИ опирается на интегрированные данные из журналов аудита, истории поддержки клиентов и таких источников, как публикации IRS (Налоговой службы США), чтобы предоставлять мгновенные ответы — без участия человека.
Для финансовой организации, обрабатывающей конфиденциальные налоговые данные в пиковый сезон, невозможность увидеть, как ИИ принимает решения, стала бы непреодолимым препятствием. «Учитывая такой уровень конфиденциальности информации и высокий темп работы, особенно в налоговый сезон, наблюдаемость позволяет нам полностью доверять каждому взаимодействию агента и обеспечивать прозрачность в рамках единого представления», — сказал Типлс.
Инструменты наблюдаемости выявили неожиданные для Типлса закономерности. «Функция оптимизации оказалась для нас самой поразительной: она обеспечивает полную прозрачность логики агента, выявляет пробелы в производительности и показывает, как именно наши агенты принимают решения, — отметил он. — Это помогло нам быстро диагностировать проблемы, которые в противном случае остались бы незамеченными, и в ответ настроить защитные барьеры».
Влияние на бизнес оказалось существенным. Agentforce обработал более 1000 клиентских запросов за первые 24 часа работы в 1-800Accountant. Теперь компания прогнозирует, что сможет поддержать 40-процентный рост числа клиентов в текущем году без найма и обучения сезонного персонала, одновременно высвободив на 50% больше времени для сертифицированных бухгалтеров (CPA), чтобы те сосредоточились на сложной консультационной работе, а не на административных задачах.
Reddit добился аналогичных результатов после внедрения технологии. Джон Томпсон (John Thompson), вице-президент по стратегии продаж и операциям этой социальной платформы, сообщил, что с момента запуска Agentforce для поддержки рекламодателей компания перенаправила 46% обращений в службу поддержки. «Наблюдая за каждым взаимодействием Agentforce, мы можем точно понять, как наш ИИ помогает рекламодателям ориентироваться даже в самых сложных инструментах, — заявил Томпсон. — Это понимание помогает нам осознать не только то, решаются ли проблемы, но и как именно принимаются решения по ходу дела».
Изнутри технологии трассировки сеансов Salesforce: логирование каждого взаимодействия ИИ-агента и каждого шага рассуждений
Salesforce создала систему наблюдаемости на базе двух фундаментальных компонентов. Модель данных трассировки сеансов (Session Tracing Data Model) регистрирует каждое взаимодействие — пользовательские вводы, ответы агента, шаги рассуждений, вызовы языковых моделей и проверки защитных барьеров — и надежно хранит их в Data 360, платформе данных Salesforce. Это создает то, что компания называет «унифицированной видимостью» поведения агента на уровне сеанса.
Второй компонент, MuleSoft Agent Fabric, решает проблему, которая будет становиться все более острой по мере того, как компании создают все больше систем ИИ: бесконтрольный рост числа агентов (agent sprawl). Этот инструмент предоставляет то, что Лерхаупт описывает как «единое окно обзора для каждого агента», включая те, что созданы за пределами экосистемы Salesforce. Функция Agent Visualizer в Agent Fabric создает визуальную карту всей сети агентов компании, обеспечивая видимость всех взаимодействий агентов из единой панели управления.
Инструменты наблюдаемости делятся на три функциональные зоны. Agent Analytics отслеживает показатели производительности, выявляет тенденции ключевых показателей эффективности (KPI) с течением времени и подсвечивает неэффективные темы или действия. Agent Optimization обеспечивает сквозную видимость каждого взаимодействия, группирует схожие запросы для выявления закономерностей и определяет проблемы конфигурации. Мониторинг работоспособности агентов (Agent Health Monitoring), который станет общедоступным весной 2026 года, отслеживает ключевые показатели работоспособности практически в реальном времени и отправляет оповещения о критических ошибках и всплесках задержек.
Пьер Матуше (Pierre Matuchet), старший вице-президент по ИТ и цифровой трансформации в компании Adecco, рассказал, что такая прозрачность помогла его команде обрести уверенность еще до полноценного развертывания. «Даже во время раннего тестирования в блокнотах мы видели, как агент appropriately (надлежащим образом) и в соответствии с проектом справлялся с неожиданными сценариями — например, когда кандидаты не хотели отвечать на вопросы, уже освещенные в их резюме, — отметил Матуше. — Agentforce Observability помогла нам выявить непредвиденное поведение пользователей и еще до запуска агента придала нам уверенности в том, что он может действовать ответственно и надежно».
Почему в Salesforce утверждают, что их инструменты мониторинга ИИ превосходят аналоги от Microsoft, Google и AWS
Это объявление ставит Salesforce в прямой конкуренции с компаниями Microsoft, Google и Amazon Web Services, каждая из которых предлагает возможности мониторинга, встроенные в их собственные платформы ИИ-агентов. Лерхаупт аргументировал это тем, что предприятиям требуется нечто большее, чем базовый мониторинг, предлагаемый этими провайдерами.
«Наблюемость поставляется стандартно «из коробки» вместе с Agentforce без каких-либо дополнительных затрат», — заявил Лерхаупт, позиционируя предложение как комплексное, а не вспомогательное. Он подчеркнул, что инструменты обеспечивают «более глубокое понимание, чем когда-либо прежде», фиксируя «полную телеметрию и логику, стоящую за каждым агентским взаимодействием» с помощью модели данных трассировки сеансов, а затем используя эти данные для «предоставления ключевого анализа и оценки качества сеансов, чтобы помочь клиентам оптимизировать и улучшать своих агентов».
Такое позиционирование на рынке имеет значение, поскольку перед предприятиями стоит выбор: построить свою инфраструктуру ИИ на платформе облачного провайдера и использовать его родные инструменты мониторинга либо внедрить специализированный уровень наблюдаемости вроде решения от Salesforce. Лерхаупт охарактеризовал это решение как выбор между глубиной и широтой. «Предприятиям требуется нечто большее, чем базовый мониторинг, чтобы измерить успех внедрения ИИ, — сказал он. — Им необходима полная видимость каждого взаимодействия и каждого решения агента».
Вопрос 1,2 миллиарда рабочих процессов: переходят ли внедрения ИИ-агентов от пилотных проектов к промышленной эксплуатации?
Более широкий вопрос заключается в том, решает ли Salesforce проблему, с которой подавляющее большинство предприятий столкнется в самое ближайшее время, или же создает решение для будущего, которое наступит еще через несколько лет. Заявленный компанией всплеск внедрения ИИ на 282% звучит впечатляюще, однако эта цифра не проводит различий между промышленными внедрениями и пилотными проектами.
Когда об этом спросили напрямую, Лерхаупт предпочел привести примеры из клиентской практики, а не давать детальную разбивку. Он описал трехэтапный путь от экспериментов к масштабированию. «В День 0 основой является доверие», — сказал он, сославшись на то, что 1-800Accountant добился 70% автономного разрешения чат-диалогов. «День 1 — это когда концепции проектирования превращаются в реальный, применимый ИИ», причем Williams Sonoma обеспечивает более 150 000 ИИ-взаимодействий ежемесячно. «В День 2, когда доверие и дизайн уже сформированы, речь заходит о масштабировании ранних побед до общекорпоративных результатов», — указав на то, что у компании Falabella насчитывается 600 000 ИИ-рабочих процессов в месяц, которые за три месяца выросли вчетверо.
По словам Лерхаупта, у Salesforce насчитывается более 12 000 клиентов в 39 странах, использующих Agentforce и обеспечивающих работу 1,2 миллиарда агентских рабочих процессов. Эти цифры свидетельствуют о том, что переход от пилотных проектов к промышленной эксплуатации уже идет полным ходом, хотя компания и не предоставила детализацию о том, сколько именно клиентов запускают рабочие нагрузки в продакшене по сравнению с экспериментальными развертываниями.
Экономика внедрения ИИ может ускорить его принятие независимо от степени готовности. Компании испытывают растущее давление с целью снижения расходов на персонал при сохранении или улучшении уровней обслуживания. ИИ-агенты обещают разрешить это противоречие, но только в том случае, если бизнес сможет доверять им в плане надежности. Инструменты наблюдаемости, подобные решению от Salesforce, представляют собой тот самый уровень доверия, который делает масштабное развертывание возможным.
Что происходит после развертывания ИИ-агента: почему непрерывный мониторинг важнее первоначального тестирования
Более глубокая история связана с изменением представлений предприятий о внедрении ИИ. В официальном анонсе это было сформулировано предельно четко: «Жизненный цикл разработки агента начинается с трех основополагающих шагов: создание, тестирование и развертывание. Хотя многие организации уже преодолели первоначальное препятствие в виде создания своих первых агентов, реальная корпоративная проблема начинается сразу после развертывания».
Такая формулировка отражает более зрелое понимание искусственного интеллекта в производственных средах. Ранние внедрения ИИ зачастую рассматривали технологию как разовую реализацию: создал, протестировал, выпустил. Но ИИ-агенты ведут себя иначе, чем традиционное программное обеспечение. Они учатся, адаптируются и принимают решения на основе вероятностных моделей, а не детерминированного кода. Это означает, что их поведение со временем может отклоняться от нормы или у них могут возникать непредвиденные сбои, которые проявляются только в реальных условиях.
«Создание агента — это только начало, — сказал Лерхаупт. — Как только появляется доверие к тому, чтобы агенты начали выполнять реальную работу, компании могут начать с наблюдения за результатами, однако они могут не понимать причину («почему»), стоящую за ними, или не видеть областей для оптимизации. Клиенты взаимодействуют с продуктами — включая агентов — неожиданными способами, и для оптимизации клиентского опыта критически важна прозрачность поведения агентов и их результатов».
Типлс высказался на этот счет более прямолинейно, когда его спросили, что изменилось бы при отсутствии инструментов наблюдаемости. «Такой уровень видимости дал нам полную уверенность в том, чтобы продолжать расширять развертывание наших агентов», — заявил он. Скрытый смысл очевиден: без прозрачности развертывание замедлилось бы или остановилось. В планах 1-800Accountant — расширить интеграцию со Slack для внутренних рабочих процессов, развернуть Service Cloud Voice для перенаправления обращений и задействовать Tableau для разговорной аналитики (conversational analytics). И все это зависит от уверенности, которую обеспечивает наблюдаемость.
Как проблемы доверия к корпоративному ИИ стали главным препятствием на пути масштабирования автономных агентов
Повторяющейся темой в интервью с клиентами является доверие — точнее, его нехватка. ИИ-агенты работают, порой потрясающе хорошо, но руководители не доверяют им настолько, чтобы внедрять повсеместно. Инструменты наблюдаемости призваны превратить черноящичные системы в прозрачные, заменив веру фактами.
Это имеет значение, потому что именно доверие является узким горлышком, сдерживающим внедрение ИИ, а не технологические возможности. Модели достаточно мощны, инфраструктура достаточно зрелая, а бизнес-кейс достаточно убедителен. Чего не хватает, так это уверенности руководства в том, что ИИ-агенты будут вести себя предсказуемо и что возникающие проблемы можно будет быстро диагностировать и устранить.
Salesforce делает ставку на то, что инструменты наблюдаемости смогут устранить это узкое горлышко. Компания позиционирует Agentforce Observability не как инструмент мониторинга, а как управленческий уровень — «точно так же, как менеджеры работают со своими человеческими сотрудниками, чтобы удостовериться, что они трудятся ради правильных целей и оптимизируют свою производительность», пояснил Лерхаупт.
Эта аналогия показательна. Если ИИ-агенты становятся цифровыми сотрудниками, они нуждаются в том же типе непрерывного контроля, обратной связи и оптимизации, которые получают люди. Разница лишь в том, что ИИ-агентов можно отслеживать с гораздо большей детализацией, чем любого работника-человека. Каждое решение, каждый шаг рассуждений, каждая задействованная точка данных могут быть записаны, проанализированы и оценены.
Это создает как возможности, так и обязательства. Возможность заключается в непрерывном совершенствовании с темпом, недостижимым для человеческих работников. Обязательство же состоит в том, чтобы действительно использовать эти данные для оптимизации производительности агентов, а не просто собирать их. Удастся ли предприятиям выстроить организационные процессы, способные превратить данные наблюдаемости в системные улучшения, остается открытым вопросом.
Но одна вещь становится все более очевидной в гонке за масштабное внедрение ИИ: компании, способные видеть, что делают их агенты, будут двигаться быстрее тех, кто летит вслепую. В наступающую эру автономного ИИ наблюдаемость — это не просто приятная опция. Это разница между осторожными экспериментами и уверенным развертыванием; между отношением к ИИ как к рискованной ставке и управлением им как к надежной рабочей силе. Вопрос больше не в том, могут ли ИИ-агенты работать. Вопрос в том, достаточно ли хорошо бизнес видит происходящее, чтобы позволить им это.
