Агентный ИИ в продакшене: Merck и Mastercard делятся опытом
Компания Merck использует ИИ-агенты, чтобы сократить циклы разработки лекарств на треть и выпускать соответствующие нормативным требованиям маркетинговые материалы на 80% быстрее, однако вице-президент по цифровым платформам Шон Финнерти (Sean Finnerty) отмечает: единственный залог успеха заключается в том, что сначала была создана необходимая инфраструктура.
Фармацевтический производитель уже видит многообещающие первые результаты: ИИ создает маркетинговые черновики, которые оказываются «на 99% точными» с точки зрения соблюдения нормативных требований, сокращая сроки проверок с месяцев до считанных дней и ускоряя доставку материалов на 70–80%. Тем временем в медицинских исследованиях компании один из циклов открытий с поддержкой ИИ удалось сократить на 33%.
Тем не менее, агентный ИИ работает только в том случае, если компании сначала создают базовую «сантехнику» (инфраструктуру), заявил Финнерти, говоря о цифровых платформах и сервисах на недавнем мероприятии серии AI Impact Series.
«Если мы будем делать разовые проекты, мы в итоге получим тысячи и тысячи вещей, которые в конечном счете станут лишь техническим долгом, с которым придется разбираться позже, — сказал он. — И это станет тормозом для любых дальнейших инноваций».
Начинать с инфраструктуры
Стратегия Merck, ставящая инфраструктуру на первое место, основана на уроках, усвоенных еще на заре облачных технологий в 2010-х годах, «когда черт пойми что вообще происходило», вспоминает Финнерти.
Правильный подход к облакам означал строительство с нуля; теперь эта инфраструктура в Merck поддерживает 2500 аккаунтов AWS, многочисленные подписки Microsoft Azure и новые интеграции с Google Cloud Platform (GCP).
«С ИИ будет абсолютно то же самое, — подчеркнул Финнерти. — У нас будут тысячи и тысячи агентов». И тут же возникает масса вопросов: как их регистрировать? Как обеспечить их безопасность? Как гарантировать, что они подключены к нужным инструментам и имеют доступ к правильным данным и нужному контексту?
Предоставление контекста также имеет критически важное значение; Merck работает с тремя гиперскейлерами, имеет 47 периферийных узлов (edge locations) и сотни баз данных. По словам Финнерти, «многие и многие петабайты» структурированных и неструктурированных данных хранятся в базах данных Oracle, базах данных SQL, таблицах Excel, расшифровках телефонных звонков и других хранилищах.
Его команда строит каркас для предоставления значимого контекста в различных ситуациях, пояснил он. Данные должны быть организованы и загружены в различные платформы, поскольку «не существует единого решения для каждой отдельно взятой проблемы». Иногда это Databricks, иногда Amazon Redshift «плюс еще четыре вещи».
Цель состоит в следующем: «Давайте сделаем это простым и удобным для пользователей, обеспечим безопасность и убедимся, что все хорошо интегрировано с MCP (протоколом контекста моделей), A2A ( Agent2Agent) и вышестоящими вычислительными мощностями, — говорит Финнерти. — Если вы хотите запускать процессы на GCP или на AWS, у нас уже есть готовая инфраструктура, чтобы вы могли запускать свои сопутствующие рабочие нагрузки там, где захотите».
Как Merck использует агенты
Параллельно с созданием технической инфраструктуры Merck экспериментирует с агентами в регулируемых корпоративных операциях, научных исследованиях и модернизации приложений.
Стоит отметить, что ИИ ускоряет открытие лекарств. Финнерти пояснил, что ученые изучают молекулярные структуры и состояния заболеваний, чтобы определить, поддается ли конкретное заболевание лечению. Но даже если состояние болезни известно, разработка целевого препарата может занять годы.
Теперь же благодаря ИИ команды начинают видеть «очень многообещающие результаты», такие как сокращение одного конкретного исследовательского цикла на треть. «Это минус один год из жизненного цикла разработки, — говорит Финнерти. — А это значит, что теоретически мы можем доставить препарат нуждающемуся в нем пациенту на год раньше».
После разработки и одобрения эти продукты подлежат строящему регулированию, а сопутствующие маркетинговые материалы должны быть сформулированы четко и недвусмысленно. «То, как вы доносите эту информацию для каждого рынка, каждой страны, каждого штата и каждого региона, очень тщательно регулируется и контролируется», — отмечает Финнерти. Это также зависит от контекста: рекламная кампания вакцины в штате Джорджия сильно отличается от кампании, запущенной в Канаде.
Исторически люди выполняли всю подготовительную работу, чтобы гарантировать соблюдение компанией различных законов. Проекты материалов проходят через множество циклов проверок; когда обнаруживается ошибка, документ «отправляется обратно в начало, процесс запускается заново, и на это уходит еще какое-то количество недель или месяцев», говорит Финнерти.
Но теперь ИИ может делать это «гораздо, гораздо эффективнее», и процесс постепенно эволюционирует от подхода «человек в контуре» (human-in-the-loop) к модели «человек как регулятор» (human-as-governor). Под контролем человека ИИ может за день или неделю подготовить черновик, который будет готов на 99%, что позволяет командам выпускать материалы на 80% быстрее.
Тем временем в сфере модернизации приложений ИИ может выявлять архитектуру, документировать взаимодействия данных, API, сетевые пути, выполнять проверки аутентификации и авторизации; он также может писать код на Terraform для развертывания и рефакторить JavaScript в Python.
Если раньше компании требовались недели, месяцы и сотни тысяч долларов на обновление одного приложения, то теперь, по словам Финнерти, агенты справляются с этой работой с помощью простых текстовых запросов.
Сталкиваясь с «чудаковатостью»
Это не значит, что на пути нет серьезных трудностей; Финнерти отметил, что его команда столкнулась с определенной «чудаковатостью» ИИ — например, при автоматическом тестировании кода и сценариев. ИИ откровенно выдумывал сценарии — из-за неверного контекста, проблем с инфраструктурой «или просто проявляя творческий подход в духе: «Вы должны протестировать эти три функции, которых даже нет в коде, который вы пытаетесь проверить»».
«Меня это немного удивило, потому что я думал, что мы уже дальше продвинулись в решении проблем с галлюцинациями в этих новых моделях», — признался он.
Чтобы справиться с этим, его команда разработала защитные механизмы (guardrails) для минимизации галлюцинаций, фактически используя ИИ для контроля за другим ИИ и применяя показатели степени уверенности (confidence scores). Так, если Claude создал первый вариант результата, они поручают Microsoft Copilot оценить его.
«Если вы задаете вопрос один раз, проверяете его с помощью ИИ, а затем задаете вопрос в третий раз, уровень уверенности с каждым разом растет, и это сводит к минимуму тот мусор, который генерируется на ранних этапах», — поясняет Финнерти.
Варианты использования агентного ИИ в финансовых услугах
Тем временем в Mastercard главный директор по работе с данными Андрей Райскинд (Andrew Reiskind) и его команда сосредоточили эксперименты с агентами на высокоорганизованных рабочих процессах обработки транзакций и споров. Как он отмечает, возврат платежа (чарджбэк) или спор по поводу мошенничества — это не единичное событие.
Когда потребитель оспаривает списание средств (обычно в интернете), это «запускает целый бэкенд-процесс, который как правило требует огромных трудозатрат», говорит Райскинд.
Mastercard должна собрать конкретные детали о самом споре; затем у мерчанта (продавца) начинаются собственные расследования (была ли карта заявлена как утерянная или украденная? часто ли этот потребитель оспаривает списания?). Кроме того, у платежной сети, находящейся посередине, действуют собственные правила относительно сроков и предоставления информации.
«У вас есть каждый из этих шагов, многие из которых не структурированы, но здесь присутствуют и структурированные элементы данных», — говорит Райскинд. Информация о том, была ли карта утеряна или украдена, как правило, структурирована, но жалобы потребителей представляют собой «неструктурированные данные сомнительной надежности».
«В итоге вы остаетесь с системой принятия решений, которая включает как детерминированные, так и вероятностные решения», — поясняет он.
Эту проблему можно ускорить и потенциально решить с помощью ИИ-агентов, однако этот процесс может оказаться сложным: какие задачи вы передаете агентам? Когда они возвращают дела живым сотрудникам? Сколько агентов вы в конечном итоге используете? Каковы последствия с точки зрения затрат?
Кроме того, возникают вопросы репутации и издержек: не назвали ли вы потребителя лжецом, когда он вовсе не лгал?
«Это как раз та ситуация, когда вы, будучи банком, хотите сохранить доверие клиента, — говорит Райскинд. — Но вы также хотите сделать процесс эффективным и снизить затраты системы».
Ошибка с арахисовой пастой против сэндвича с индейкой: определяем допустимые риски
С ИИ всегда связаны определенные риски, и предприятия должны оценивать их с самого начала проектирования продукта, считает Райскинд. Возникает также вопрос о допустимом риске.
В качестве примера: подали ли вы клиенту сэндвич с арахисовой пастой и джемом вместо сэндвича с индейкой (небольшое неудобство)? Или вы накормили глютеном человека с целиакией?
«Является ли риск приемлемым, если ошибка совершается в одном проценте случаев? Если да, давайте перейдем к следующему этапу — тому, как вы этот риск минимизируете», — говорит Райскинд.
Руководители должны проводить анализ затрат и выгод, разбивать проблемы на «составные части» и рассчитывать стоимость каждой из них. Но это лишь оценки; спрогнозировать реальное использование практически невозможно, отмечает Райскинд. «Прийти к точному расчету затрат — процесс непростой, — говорит он. — Но это вполне возможно».
