Capital One открывает исходный код инструмента искусственного интеллекта VulnHunter

Capital One в четверг представила VulnHunter — инструмент безопасности на базе агентского искусственного «интеллекта» с открытым исходным кодом, который сканирует исходный код на наличие уязвимостей, моделирует пути потенциальной атаки и предлагает целевые исправления задолго до того, как код попадет в продакшн. Этот инструмент, разработанный внутри компании и теперь доступный на GitHub под лицензией Apache 2.0, представляет собой одну из самых амбициозных попыток крупного финансового института превратить возможности наступательного ИИ в общедоступный защитный ресурс.

В то время как службы безопасности сталкиваются с растущей волной новых угроз с использованием ИИ, решение Capital One открыть исходный код инструмента отражает стремление противостоять, по словам директора по информационной безопасности Криса Нимса (Chris Nims), «кратковременному окну, прежде чем изощренные возможности атак с помощью ИИ следующего поколения станут доступными и по карману практически любому злоумышленнику».

Capital One выпускает не просто очередной сканер уязвимостей. VulnHunter представляет то, что компания называет «проактивным анализом с позиции злоумышленника» (attacker-first forward analysis) — рабочий процесс, в котором инструмент начинает с точек входа реального злоумышленника в систему (таких как API, сетевые сообщения или загрузка файлов) и анализирует логику приложения вперед, чтобы определить, действительно ли существует путь эксплойта в обход существующих защитных механизмов кода. Обычные сканеры работают в обратном направлении, выявляя подозрительные паттерны в коде и затем пытаясь найти гипотетического атакующего. Такой подход, как отмечают специалисты по безопасности, засыпает инженерные команды лавинами ложных срабатываний.

VulnHunter решает эту проблему в лоб с помощью второй инновации: встроенного «модуля фальсификации» (falsification engine), который пытается опровергнуть собственные находки еще до того, как их увидит разработчик. После того как инструмент обнаруживает потенциальную уязвимость, структурированный алгоритм рассуждений ищет логические пробелы, неподтвержденные предположения и условия, которые помешали бы атаке увенчаться успехом. До проверки человеком доходят только те находки, которые движок не смог отклонить, — и в этом случае VulnHunter предоставляет не просто предупреждение, а полное описание пути эксплойта и готовое к ревью предложение по исправлению кода.

В настоящее время инструмент работает на модели Claude Opus 4.8 от Anthropic в среде Claude Code, хотя в Capital One заявляют, что фреймворк потенциально совместим с другими базовыми моделями и средами разработки.

Почему Capital One открывает доступ к инструменту

На вопрос о том, почему в Capital One решили выпустить в открытый доступ столь важный инструмент, Нимс указал на коллективный характер проблемы.

«Мы сочли необходимым открыть исходный код VulnHunter, поскольку современные цепочки поставок ПО тесно связаны, а масштаб угроз ИИ превосходит возможности любой отдельно взятой организации», — заявил Нимс в интервью VentureBeat. — Защита программного обеспечения и нашей цифровой среды — это общий фундамент, который приносит пользу разработчикам, предприятиям и людям, зависящим от создаваемых нами систем. Средства защиты от этих угроз должны распространяться, тестироваться и совершенствоваться так же широко, как и защищаемые ими кодовые базы».

«Вместо того чтобы ждать, — добавил он, — мы решили, что правильным ответом будет создание продукта, адаптированного под сложнейший ландшафт безопасности сегодняшнего дня, и передача его в руки специалистов по защите по всему миру».

Почему в Capital One считают, что открытие исходного кода VulnHunter укрепит защиту каждого

Тем не менее этот релиз происходит на фоне хорошо знакомых компании событий. 19 июля 2019 года Capital One сообщила, что постороннее лицо (позже опознанное как бывшая сотрудница Amazon Web Services Пейдж Томпсон) получило несанкционированный доступ к именам, адресам, информации о доходах, номерам социального страхования и связанным банковским счетам клиентов и заявителей. Утечка, произошедшая, по данным Capital One, 22 и 23 марта 2019 года, была обнаружена лишь после того, как внешний исследователь безопасности сообщил о конфигурационной уязвимости через программу ответственного раскрытия информации компании 17 июля того же года.

Масштаб ущерба оказался огромным. Пострадали примерно 100 миллионов человек в США и 6 миллионов в Канаде. Было скомпрометировано около 140 000 номеров социального страхования, около 80 000 связанных номеров банковских счетов и примерно 1 миллион канадских номеров социального страхования. ФБР арестовало Томпсон, а правительство заявило, что данные были возвращены и признаков мошенничества не обнаружено. Однако репутационный и регуляторный ущерб был колоссальным.

В августе 2020 года Управление контролера денежного обращения (OCC) оштрафовало Capital One на 80 миллионов долларов, посчитав, что банк не смог должным образом выявить и оценить риски при масштабном переносе технологических операций в облако. Как сообщало тогда агентство Reuters, в приказе OCC отмечались недостаточные меры сетевой безопасности, неадекватная защита от потери данных, а также бездействие совета директоров, который не привлекал руководство к ответственности при обнаружении проблем внутренним аудитом. OCC также обязала Capital One перестроить свою деятельность и представить новые планы кибербезопасности на рассмотрение регуляторов.

Издание CyberScoop тогда назвало этот инцидент «предупреждением для компаний, спешащих внедрять новые технологии». Генеральный директор Capital One Ричард Фэрбэнк (Richard D. Fairbank) признал всю серьезность ситуации. «Хотя я рад, что злоумышленник пойман, я глубоко сожалею о случившемся, — сказал тогда Фэрбэнк. — Я искренне извиняюсь за понятную тревогу, которую этот инцидент должен вызывать у пострадавших, и я намерен исправить ситуацию».

Десятилетняя стратегия Capital One по работе с открытым исходным кодом и вклад VulnHunter в нее

За этим последовал не отказ от технологий, а удвоение усилий — с вопросами безопасности в самом центре стратегии.

Capital One начала выпускать проекты с открытым исходным кодом в 2014 году и объявила себя компанией, «<пользующейся ПО с открытым исходным кодом в первую очередь» («open-source first») в 2015 году в рамках масштабной технологической трансформации, начатой более десяти лет назад. Компания продолжала инвестировать в безопасность цепочек поставок ПО, управление открытым исходным кодом и защиту на базе ИИ. В августе 2022 года Capital One присоединилась к Open Source Security Foundation в качестве главного члена, получив место в управляющем совете организации. Крис Нимс, занимавший тогда должность исполнительного вице-президента по облачным технологиям и разработке средств повышения производительности, охарактеризовал этот шаг как естественное продолжение философии компании. «Будучи компанией со строгим регулированием, мы имеем большой опыт управления комплаенсом и руководства стандартизацией, автоматизацией и сотрудничеством», — отметил Нимс в пресс-релизе OpenSSF.

За этим публичным заявлением стоял мощный операционный аппарат. Офис открытого исходного кода Capital One, находящийся сейчас на третьем этапе своего развития, управляет использованием открытого кода, вкладом в него и развитием сообщества внутри предприятия. По данным компании, она выпустила более 40 проектов с открытым исходным кодом и внесла тысячи доработок во внешние проекты с открытым исходным кодом, от которых зависит. Эти усилия затрагивают не только зависимости в коде, но и весь жизненный цикл разработки программного обеспечения — инструменты DevSecOps, инфраструктуру, а также внутренние и внешние среды для совместной работы, которые определяют процесс создания и поставки ПО.

VulnHunter является самым значимым продуктом этой многолетней работы, и его релиз отражает тенденцию, все более популярную среди крупных корпораций: в сфере безопасности делиться инструментом выгоднее, чем бороться в одиночку. «В конечном итоге наша цель — сделать этот продукт максимально доступным», — подчеркнул Нимс.

Компания утверждает, что современные цепочки поставок программного обеспечения настолько взаимосвязаны, что одна уязвимость в широко используемом компоненте с открытым исходным кодом может одновременно затронуть тысячи предприятий. Проприетарные средства защиты, какими бы сложными они ни были, не могут решить проблему, носящую принципиально общественный характер. Выпуская VulnHunter под мягкой лицензией, Capital One приглашает мировое экспертное сообщество тестировать, расширять и улучшать инструмент, фактически используя краудсорсинг для собственной защиты и одновременно укрепляя общую экосистему.

Анатомия трехэтапного ИИ-движка VulnHunter для поиска уязвимого кода

Для технических руководителей, оценивающих VulnHunter, именно архитектура делает амбиции инструмента осязаемыми. Рабочий процесс состоит из трех четких этапов.

На первом этапе — проактивном анализе с позиции злоумышленника — VulnHunter начинает с точек взаимодействия внешнего злоумышленника с системой: эндпоинтов API, обработчиков сетевых сообщений, интерфейсов загрузки файлов. От каждой точки входа инструмент анализирует логику приложения, отслеживая потоки данных, преобразования и внутренние контрольные точки безопасности, чтобы определить, сможет ли злоумышленник фактически добраться до опасного участка кода. Такой подход имитирует действия квалифицированного специалиста по тестированию на проникновение, но автоматизирует процесс в масштабе, недоступном для человеческой команды.

Второй этап — это то, чем VulnHunter сильнее всего отличается от традиционных сканеров. После выявления потенциальной уязвимости модуль фальсификации запускает структурированный процесс рассуждений, призванный опровергнуть собственный вывод. Он ищет неверные допущения, логические пробелы в цепочке эксплойта и условия среды, которые могли бы помешать успешной атаке. Находки, не прошедшие эту внутреннюю проверку, отбрасываются до того, как их увидит хоть один разработчик. Четкая цель Capital One — избавить программистов от необходимости разбираться с ложными срабатываниями. Эта вечная проблема подрывает доверие к инструментам безопасности и снижает скорость разработки.

На третьем этапе уязвимости, пережившие проверку модулем фальсификации, запускают процесс устранения с подтверждающими доказательствами. VulnHunter собирает подтверждения по всей кодовой базе, выстраивает полный уцелевший путь эксплойта, объясняет дефект и конкретные возможности, которые получит злоумышленник, а также генерирует целевые изменения кода для проверки инженерами. На выходе получается не общая рекомендация, а конкретный патч с учетом контекста.

В Capital One заявляют, что протестировали VulnHunter внутри компании перед релизом, прогнав его по тысячам репозиториев в десятках бизнес-направлений. По данным компании, инструмент выявлял и устранял уязвимости с быстротой и эффективностью, значительно превосходящими результаты ручной проверки командами.

Почему атаки с использованием ИИ заставляют банки переосмыслить традиционную кибербезопасность

VulnHunter появляется в момент, когда ландшафт кибербезопасности стремительно меняется под ногами у каждого предприятия. В анонсе Capital One срочность ситуации описывается прямо: передовые модели ИИ «резко снизили порог для злоумышленников при поиске и эксплуатации уязвимостей в программном обеспечении», а временной интервал до того момента, как изощренные возможности атак с помощью ИИ станут дешевыми и доступными практически каждому злоумышленнику, стремительно сокращается.

«Защита информации имеет решающее значение для нашей миссии и нашей роли как финансового института», — заявил Нимс в интервью VentureBeat. — Мы вложили значительные средства в кибербезопасность и будем продолжать это делать, чтобы опережать меняющийся ландшафт угроз».

Собственные исследователи безопасности Capital One в области ИИ внимательно следят за этими тенденциями. На конференции NeurIPS 2024 в Ванкувере команда Capital One представила исследование и собрала подборку из почти 100 работ по безопасности больших языковых моделей (LLM), устойчивости к состязательным атакам, обходу систем защиты (jailbreak) и генерации синтетических данных. Представленные ими работы — в том числе посвященные многоагентным защитным фреймворкам, автоматизированному ред-темингу и классификаторам защитных барьеров (guardrails) — рисуют картину гонки вооружений, в которой возможности наступательного и оборонительного ИИ развиваются с бешеной скоростью.

Несколько этих исследовательских тем напрямую связаны с архитектурой VulnHunter. Движок фальсификации перекликается со стратегиями состязательной защиты, исследованными в таких работах, как «BackdoorAlign», которая показала, что внедрение структурированного механизма безопасности в небольшое число обучающих примеров позволяет восстановить безопасность модели без снижения производительности. Проактивный анализ отражает философию «WildTeaming» — фреймворка, который собирает и анализирует реальные попытки обхода защиты для создания более устойчивых моделей. А акцент VulnHunter на минимизации ложных срабатываний перекликается с целями «GuardFormer», классификатора защитных барьеров, который превзошел GPT-4 в тестах на безопасность, работая при этом в 14 раз быстрее.

Все эти работы объединяет убеждение, что традиционная реактивная безопасность — мониторинг сетей, установка патчей для известных уязвимостей, реагирование на инциденты после их возникновения — больше не достаточна, когда злоумышленники могут использовать ИИ для поиска и эксплуатации уязвимостей нулевого дня со скоростью машин. Единственная надежная защита, утверждают в Capital One, — это находить и устранять уязвимости в собственном коде раньше, чем их найдут злоумышленники.

Что история перехода Capital One в облако говорит о всей банковской индустрии

Путь Capital One в облачные технологии также проливает свет на более масштабные перемены в сфере финансовых услуг. Когда в середине 2010-х годов Capital One активно перенесла свои системы на Amazon Web Services, это было редкостью среди крупных банков. Большинство финансовых организаций просто не доверяли третьим лицам хранение своих самых конфиденциальных данных. Тогдашний директор по ИТ Capital One Роб Александер (Rob Alexander) публично заявлял, что облако безопаснее собственных дата-центров банка — утверждение, которое последовавший взлом 2019 года существенно осложнил.

Опубликованный в то время отчет CyberScoop отразил напряженность в отрасли. У. Патрик Опет (W. Patrick Opet), управляющий директор по кибербезопасности в JP Morgan Chase, описывал культурный сдвиг в банковской сфере от приоритета трейдеров к приоритету разработчиков: «Теперь подход такой: „Фокус на разработчике, все превращаем в код, все автоматизируем“». Марк Николсон (Mark Nicholson), руководитель направления кибербезопасности Deloitte в финансовой сфере, отмечал, что стремление двигаться быстрее обнажает «слабые места в методологии разработки». Сам же взлом стал напоминанием о том, что даже несмотря на то, что Chase тратил 600 миллионов долларов в год на кибербезопасность, относительно простые уязвимости (вроде ошибки в Apache Struts, которая привела к утечке в Equifax) могли свести на нет масштабные инвестиции в защиту данных.

Семь лет спустя индудня в основном последовала за Capital One в облака, и проблемы безопасности только усугубились. Вопрос теперь заключается не в том, использовать ли облачную инфраструктуру, а в том, как защитить работающее на ней программное обеспечение. VulnHunter представляет собой часть ответа Capital One на этот вызов: вместо того чтобы полагаться исключительно на сетевые средства контроля и периметровую защиту, перенести безопасность непосредственно в сам код в момент его написания. Выпуск проекта в открытый доступ также создает скрытое конкурентное давление. Если VulnHunter завоюет популярность среди разработчиков и специалистов по безопасности, он может задать новый стандарт того, что ожидается от корпоративных средств защиты, и заставить конкурирующие банки, финтех-компании и облачных провайдеров соответствовать этим возможностям или превосходить их.

Оправдает ли VulnHunter эти амбиции, будет зависеть от его внедрения, активности сообщества и реальных результатов противодействия все более изощренным ИИ-атакам, для борьбы с которыми он создан. Тем не менее сама эта история выходит далеко за рамки отдельного инструмента или компании. В 2019 году неправильно настроенный брандмауэр веб-приложений (в сочетании с чрезмерно либеральной ролью доступа к облаку) обнажил данные примерно 100 миллионов американцев, привел к штрафу со стороны регуляторов в размере 80 миллионов долларов и стал одним из самых известных инцидентов облачной безопасности в отрасли.

В 2026 году этот же финансовый институт открывает исходный код защитного решения на базе ИИ, созданного для противостояния новому поколению угроз, и делает ставку на то, что лучший способ защитить собственный код — помочь всей индустрии защитить свой.