Почему Capital One создала свою многоагентную ИИ-платформу на базе моделей с открытым весом
Источник: VentureBeat · VB Staff
При поддержке Capital One
На конференции VB Transform 2026 Кел Вани (Kel Vanee), вице-президент по разработке машинно-обучаемых систем в Capital One, обсудил с Сэмом Виттевееном (Sam Witteveen), старшим техническим автором VentureBeat, то, как банк создал масштабируемую мультиагентную ИИ-архитектуру на базе глубоко кастомизированных моделей с открытыми весами, вместо того чтобы полагаться на готовые базовые модели.
«В Capital One мы не просто используем искусственный интеллект, мы создаем его», — заявил Вани.
Фундамент для этого был заложен много лет назад благодаря ранним инвестициям Capital One в цифровую трансформацию и внедрение облачных технологий. По словам Вани, они стали основой для быстрого старта с приходом текущей волны ИИ. Эта техническая база позволила компании принять ряд осознанных архитектурных решений: создать централизованную корпоративную ИИ-платформу со встроенными средствами управления, глубоко кастомизировать открытые модели с помощью собственных данных и построить собственный мультиагентный оркестрационный комплекс.
Кастомизация моделей с открытыми весами с использованием проприетарных данных
Вместо того чтобы полагаться исключительно на готовые передовые модели, Capital One проводит дообучение (fine-tuning) моделей с открытыми весами на основе своих богатых и уникальных данных.
«Мы рассматриваем наши данные как огромное преимущество, которым больше никто не обладает и которое общие передовые модели предоставить не могут. Поэтому мы берем эти данные и глубоко кастомизируем такие модели», — пояснил Вани. Он добавил, что данные в реальном времени критически важны для обеспечения актуального контекста во время живого взаимодействия с клиентами или сотрудниками.
Вани также рассказал о неожиданном преимуществе такого подхода — возможности масштабирования в рамках всей корпорации.
«По мере кастомизации этих моделей с открытым исходным кодом для какого-то одного сценария использования мы фактически наблюдаем пользу для всего нашего портфеля», — отметил он. «Мы обучаем модель тому, чтобы она была экспертом в задачах, правилах и терминологии Capital One. По ходу этого обучения мы видим общий рост эффективности».
Внутри мультиагентного ИИ-рабочего процесса Capital One
В качестве примера такого подхода Вани привел рабочий процесс клиентской поддержки по вопросам банковского мошенничества, который обрабатывает миллионы звонков в год. Длительность таких взаимодействий варьируется примерно от четырех до шестидесяти минут, и первая попытка задействовать одну большую языковую модель оказалась неэффективной. В рамках мультиагентного рабочего процесса Capital One (MACAW) взаимодействие распределяется между специализированными агентами со встроенными средствами контроля и защитными барьерами.
«Рабочий процесс MACAW состоит из нескольких различных агентов», — рассказал он. — Первый из них — агент понимания. Его цель — проанализировать слова клиента и попытаться понять его намерение».
Затем агент рассуждения получает ряд конкретных инструкций для создания сводки; агент валидации проверяет эту сводку на предмет точности; а агент объяснения превращает сводку в отформатированный документ со всеми необходимыми деталями, который затем передается сотрудникам поддержки.
В сфере розничного банкинга этот рабочий процесс помогает нескольким сотням операторов службы поддержки, специализирующимся на сложных звонках, связанных с мошенничеством. Создаваемые им пост-разговорные сводки помогают документировать долгие диалоги, которые агентам раньше приходилось восстанавливать вручную.
Мультиагентная архитектура Capital One также лежит в основе Chat Concierge — ориентированного на клиентов ассистента по выбору автомобилей, который дополнительно использует версию модели Llama с открытыми весами от Meta, кастомизированную с помощью проприетарных данных Capital One. В нем применяется то же разделение труда: один агент общается с клиентом, другой строит план действий на основе бизнес-правил, третий оценивает точность, а четвертый объясняет и проверяет результат.
Оптимизация задержек и затрат с помощью агентной исследовательской системы
Помимо решений, ориентированных на клиентов, Capital One также использует агентный ИИ для автоматизации рутинных задач своих сотрудников, помогая им сосредоточиться на наиболее важных аспектах работы. В качестве одного из примеров компания создала автономное агентное решение для оптимизации настройки бэкенд-инфраструктуры хостинга.
Вани пояснил, что в мире больших языковых моделей (LLM), где новые методы оптимизации появляются ежедневно, они не всегда дополняют друг друга. Сочетание двух хороших вариантов оптимизации иногда может привести к ухудшению производительности.
«Эта агентная система проводит поиск по пространству вариантов, разработанному исследователем, берет на себя всю механику настройки и проведения эксперимента, а затем представляет исследователю полную сводку результатов», — сказал Вани.
Он добавил, что система позволяет исследователям «находить последовательность оптимизаций и конфигураций, которая действительно обеспечит наименьшую возможную задержку».
Что дальше: маршрутизация моделей и проактивный ИИ на базе событий
Заглядывая в будущее, Вани видит один из главных трендов в слоях абстракции маршрутизации, которые платформа стремится протестировать на множестве моделей как с точки зрения стоимости, так и точности.
«Мы действительно считаем, что можно добиться более высокой точности, чем у любой отдельной модели, просто осуществляя маршрутизацию по более широкому набору доступных моделей, поскольку разные модели будут преуспевать в разных областях», — отметил он.
Его вторым предсказанием стал переход к системам, которые действуют без предварительного запроса, при этом он подчеркнул, что развертывание таких проактивных агентов потребует тщательного тестирования и мониторинга.
«Я думаю, что в будущем все большую роль будет играть проактивный ИИ, управляемый событиями», — заявил Вани. Вместо того чтобы ждать запроса от человека, ИИ будет вмешиваться сразу же после обнаружения условий, требующих действий.
«Это позволит усилить мониторинг, в том числе в более крупных масштабах, и расширит наши возможности в борьбе с мошенничеством и реализации открывающихся перспектив», — сказал Вани. «Так что проактивный ИИ станет по-настоящему важным трендом».
Стимулирование непрерывных инноваций в сфере финансовых услуг благодаря ИИ
Подход Capital One подчеркивает более широкую истину для лидеров корпоративных технологий: создание измеримой ценности с помощью ИИ требует отказа от готового программного обеспечения в пользу глубоко кастомизированных и жестко контролируемых архитектур. Сочетая дообученные модели с открытыми весами, мультиагентный оркестрационный комплекс и проприетарные данные, банк создал воспроизводимый шаблон для внедрения масштабируемого ИИ в сфере финансовых услуг.
«Все эти составляющие были абсолютно критически важны для дифференциации в этой сфере и достижения тех планок качества, а также порогов стоимости и задержек, которые мы перед собой поставили», — резюмировал Вани.
Поскольку компания расширяет применение этих возможностей в новых сценариях, подход к созданию корпоративной платформы помогает гарантировать, что технические прорывы трансформируются в более безопасный, быстрый и персонализированный опыт для ее миллионов клиентов.
Спонсорские материалы — это контент, созданный компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и такие материалы всегда четко отмечены. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.
