В компании Hush Security заявляют, что проблема безопасности ИИ сместилась с защиты моделей на управление удостоверениями по мере распространения автономных агентов

Меньше чем через год после выхода из тени для решения проблем безопасности нечеловеческих идентификаторов израильский стартап в сфере кибербезопасности Hush Security считает, что дискуссия о безопасности корпоративного ИИ кардинально изменилась.

Компания, которая ранее на этой неделе объявила о привлечении 30 млн долларов в рамках раунда финансирования Серии А под руководством вернувшихся инвесторов Battery Ventures и YL Ventures при присоединении Akamai Technologies в качестве стратегического инвестора, утверждает, что организации стремительно переходят от экспериментов с генеративными ИИ-ассистентами к развертыванию автономных программных агентов, требующих совершенно иной модели безопасности.

Хотя полученное финансирование поможет расширить инженерный штат, продажи в США и возможности интеграции на уровне предприятий, Hush позиционирует это объявление прежде всего как доказательство того, что именно идентификация (а не сами модели) становится критически важной плоскостью контроля для корпоративного ИИ.

«Дискуссия развивалась невероятно быстро», — рассказал генеральный директор и соучредитель Мика Раве (Micha Rave) в видеоинтервью VentureBeat после новостей о финансировании.

Когда Hush запустилась в прошлом году, фокус компании был сосредоточен на обеспечении безопасности нечеловеческих идентификаторов — ключей API, сервисных учетных записей, машинных учетных данных и других идентификаторов, используемых программным обеспечением, а не людьми.

С тех пор, по словам Раве, клиенты все чаще задают другой вопрос: как безопасно разрешить ИИ-агентам работать внутри производственных систем? Этот вопрос стал особенно актуальным и неотложным после того, как в середине июля Hugging Face сообщила о взломе автономным ИИ-агентом (позже выяснилось, что это был тестовый агент OpenAI, работавший внутри компании и вырвавшейся из своей защищенной изолированной среды, отчасти благодаря невыпущенной модели).

Согласно данным Gartner, приведенным компанией, средняя организация из списка Fortune 500 к 2028 году может использовать более 150 000 ИИ-агентов по сравнению с менее чем 15 годом ранее. Hush также ссылается на исследование Omdia, согласно которому 96% организаций полагаются на модели управления, которые никогда не были рассчитаны на автономных ИИ-агентов.

От машинных идентификаторов к автономному ПО

Первоначальная концепция компании заключалась в том, что предприятия накопили тысячи долгоживущих машинных учетных данных, которые трудно ротировать, проверять и защищать. Вместо использования статических секретов Hush разработала систему на основе идентификации, которая выступает посредником для предоставления краткосрочного доступа на основе политик для машин.

Раве отмечает, что ИИ-агенты усиливают эту же проблему.

«Теперь программное обеспечение действует автономно, по собственной инициативе, внутри ваших самых конфиденциальных систем», — сказал он. — «ИИ-агентам необходима строгая идентификация, а не просто ключи API».

В отличие от традиционной автоматизации, ИИ-агенты часто действуют в нескольких корпоративных системах, вызывают внешние службы, принимают решения независимо и зачастую выполняют действия, используя права запускшего их человека. На практике организации часто предоставляют агенту широкие разрешения OAuth или учетные данные администратора просто для того, чтобы позволить ему выполнять задачи.

Это создает проблему, которую Hush описывает скорее как проблему идентификации, а не просто проблему ИИ.

В ходе интервью Раве отметил, что практически каждый руководитель службы безопасности, с которым он общается, сталкивается с одной и той же дилеммой: либо замедлить внедрение ИИ до появления соответствующих средств контроля, либо позволить сотрудникам подключать новых агентов напрямую к корпоративным системам, несмотря на ограниченное управление.

«Ответ, — сказал он, — заключается в том, что они разрешают всё. Нельзя остановить инновации под предлогом безопасности».

Идентификация становится точкой контроля

Вместо того чтобы рассматривать ИИ-агентов как еще одно приложение, требующее учетных данных, Hush расширяет свою существующую платформу нечеловеческих идентификаторов до так называемого «шлюза идентификации» (Identity Gateway) для ИИ-агентов.

Платформа располагается между агентами и корпоративными ресурсами, позволяя организациям обнаруживать агентов, присваивать каждому из них собственную идентичность, связывать его с ответственным владельцем-человеком, предоставлять специфичные для конкретной задачи разрешения во время выполнения и вести централизованные журналы аудита.

Вместо того чтобы позволять агенту бессрочно наследовать все привилегии пользователя, Hush стремится реализовать принцип «минимальной достаточности полномочий» (least agency) — предоставляя только те разрешения, которые необходимы для выполнения конкретной задачи.

Компания заявляет, что каждое действие может быть зарегистрировано, соотнесено с владельцем и отозвано из единой плоскости управления, в то время как администраторы сохраняют возможность немедленно заблокировать доступ агента при необходимости.

Это отражает более масштабный сдвиг в управлении корпоративными идентификационными данными. Идентификаторы людей долгое время управлялись с помощью провайдеров идентификации (IdP), систем единого входа (SSO) и управления привилегированным доступом (PAM). Машинные идентификаторы также привлекают все больше внимания по мере модернизации облачной инфраструктуры организациями. Hush утверждает, что автономные ИИ-агенты теперь представляют собой третью категорию идентификаторов, требующую специализированного управления.

Hush не опубликовала публично цены на решение Identity Gateway и свои предложения в целом. Тем не менее, компания выпустила бесплатный тарифный план (Free plan), который дает организациям доступ к обзору работы ИИ-агентов и нечеловеческих идентификаторов в реальном времени, анализу рисков и средствам контроля доступа на основе идентификации, призванным заменить долгоживущие учетные данные, без необходимости указывать данные кредитной карты или соблюдать временные ограничения.

Управление всеми типами корпоративных агентов

По словам представителей Hush, предприятия больше не имеют дело с одной-единственной категорией ИИ-ПО.

В ходе интервью Раве описал три основные группы агентов, появляющиеся внутри организаций:

• Настольные помощники по программированию и агенты продуктивности, такие как Claude, Cursor и интеграции с VS Code.

• Агенты корпоративных платформ ИИ, работающие на таких сервисах, как Microsoft Foundry, Salesforce Agentforce или AWS AgentCore.

• Кастомные агенты, создаваемые организациями внутри компании для бизнес-процессов или клиентских приложений.

Каждая из них порождает свои проблемы с управлением, но все они в конечном счете требуют контролируемого доступа к корпоративным системам.

Проблема, по мнению Hush, заключается в том, что многие агенты в настоящее время проходят аутентификацию с использованием унаследованных человеческих учетных данных или долгоживущих ключей API, из-за чего трудно определить, было ли действие совершено человеком или автономной системой, действовавшей от имени этого человека.

«Если я вижу что-то в логах Salesforce, — отметил Раве во время интервью, — это сделал пользователь или агент, которым пользовался пользователь?»

Эта проблема атрибуции становится все более актуальной по мере того, как организации начинают развертывать несколько автономных систем, способных инициировать действия без прямого одобрения человека.

Существующие инструменты идентификации не были созданы для ИИ-агентов

Вместо того чтобы заменять провайдеров идентификации или менеджеры секретов, Hush позиционирует себя как решение, заполняющее пробел между ними.

Традиционные платформы IAM выполняют аутентификацию сотрудников. Менеджеры секретов хранят учетные данные. Ни одна из них, по утверждению компании, не управляет поведением во время выполнения (runtime) автономного программного обеспечения, действующего от имени людей в нескольких системах.

В Hush заявляют, что ее платформа непрерывно обнаруживает известные и теневые агенты в корпоративных средах, назначает владельцев, выдает учетные данные точно в срок (just-in-time) и фиксирует каждое взаимодействие в централизованном журнале аудита. Согласно документации продукта, организациям не нужно модифицировать существующих агентов, поскольку платформа работает путем посредничества в запросах на доступ, не меняя логику приложений.

Такой подход, в основе которого лежит идентификация, привлекает клиентов, уже внедряющих инициативы в области корпоративного ИИ.

Поставщик услуг ИТ-инфраструктуры Kyndryl сообщил, что внедрил Hush внутри компании и начал предлагать эту платформу корпоративным клиентам.

«Наше сотрудничество с Hush основано на общей философии безопасности: идентификация — это ультимативная точка контроля для современной агентичной рабочей силы», — заявил Адил Саид (Adeel Saeed), старший вице-президент и технический директор по глобальной киберустойчивости в Kyndryl, в официальном заявлении.

Участие Akamai в раунде финансирования также отражает то, что компания рассматривает как архитектурный, а не эволюционный сдвиг.

«ИИ-агенты стимулируют следующую трансформацию, и идентификация — это то, с чем большинство компаний еще не разобрались», — сказал Раманатх Айер (Ramanath Iyer), главный стратег Akamai.

Приоритеты безопасности выходят за рамки самой модели

Широкий рынок безопасности ИИ последние два года был сосредоточен в основном на инъекциях промптов (prompt injection), уязвимостях моделей, обходе защитных барьеров (jailbreaks) и безопасности больших языковых моделей (LLM). Эти направления остаются актуальными для исследований, однако корпоративные внедрения все чаще сталкиваются с операционными вопросами: к чему разрешен доступ автономным системам и как можно управлять этими действиями.

Hush утверждает, что именно идентификация становится тем инструментом принудительного исполнения, который позволяет ответить на эти вопросы.

Вместо того чтобы выяснять, способна ли ИИ-модель безопасно генерировать код или суммировать документы, предприятиям все чаще необходимо определять, к каким системам агент может получить доступ, чьими полномочиями он наделен, как делегируются разрешения и как каждое действие можно проследить до ответственного владельца.

Станет ли ориентированный на идентификацию подход Hush доминирующей моделью, еще предстоит увидеть. Но по мере того, как предприятия переходят от экспериментов с ИИ-ассистентами к развертыванию тысяч автономных программных агентов, компания делает ставку на то, что следующим серьезным вызовом в сфере безопасности станет не защита самих моделей, а безопасное управление идентификационными данными ПО, действующего от их имени.