NanoClaw и JFrog запускают «имунную систему» для защиты ИИ-агентов от загрузки вредоносного кода

Создатели популярного, дружественного к корпоративным клиентам варианта OpenClaw с открытым исходным кодом под названием NanoClaw объединяют усилия с лидером в области управления цепочками поставок программного обеспечения JFrog для запуска новой совместной интеграции безопасности, которая, по их словам, защитит автономных агентов NanoClaw от вредоносного внедрения кода.

«Эти агенты выполняют задачи, которые вы не всегда можете контролировать и которым вы не всегда можете обучить», — отметил Галь Мардер (Gal Marder), директор по стратегии JFrog, в эксклюзивном интервью VentureBeat.

Доступное уже сегодня партнерство напрямую связывает агентов NanoClaw с проверенными реестрами программного обеспечения JFrog, гарантируя, что ИИ-ассистенты смогут загружать только проверенные и безопасные зависимости.

Этот релиз решает проблему быстро растущей «слепой зоны» в технологической сфере: автономные агенты часто устанавливают пакеты в фоновом режиме для расширения своих возможностей, зачастую без ведома и контроля со стороны операторов-людей.

«Люди, управляющие агентами, не обязательно являются разработчиками и даже не осознают всех последствий», — пояснил Гавриэль Коэн (Gavriel Cohen), создатель NanoClaw, генеральный директор и соучредитель своего нового стартапа по предоставлению коммерческих услуг NanoCo AI.

Чтобы обезопасить экосистему в целом, партнеры работают над тем, чтобы сделать это решение полностью бесплатным для сообщества open-source, в то время как корпоративные организации смогут беспрепятственно направлять запросы своих агентов через свои существующие коммерчески лицензированные среды JFrog.

Новая техническая возможность, открытая благодаря этому партнерству, продолжает серию шагов NanoCo по внедрению диалоговых окон разрешений во всех приложениях, где доступен сервис. Это стало возможным благодаря партнерству с Vercel, а также новому партнерству с Docker, которое позволяет агентам NanoClaw работать более безопасно, изолированно от других программных сред непосредственно внутри виртуальных контейнеров Docker.

Риски современных персональных автономных ИИ-агентов

Когда оператор взаимодействует с автономной системой, такой как NanoClaw от NanoCo, общение происходит на высоком уровне абстракции.

Пользователь может просто отправить аудиофайл или голосовую заметку, побуждая агента самостоятельно определить, как ее обработать.

Как пояснил Коэн, агент рассуждает так: «О, я не понимаю голосовые заметки, поэтому пойду-ка я возьму пакет, скачаю что-нибудь, установлю, настрою и запущу».

Такое динамичное самосовершенствование делает ИИ-агентов невероятно мощными, но оно же делает их крайне уязвимыми к атакам на цепочки поставок программного обеспечения.

Злоумышленники все чаще внедряют вредоносные пакеты в публичные репозитории с открытым исходным кодом. Поскольку агенты действуют автономно, добывая все необходимое самостоятельно, они обходят человеческий контроль.

Операторы, которые могут даже не быть разработчиками, в значительной степени не осознают проблемы безопасности, разворачивающиеся за кулисами.

Как NanoCo и JFrog пытаются помешать агентам запускать вредоносный код

Интеграция между NanoCo и JFrog служит автоматической иммунной системой для этих ИИ-сред.

Под капотом агенты NanoClaw теперь настроены на перенаправление своих запросов на программные пакеты, инструменты CLI и серверы протокола контекста модели (MCP) исключительно через реестры JFrog.

Если агент пытается загрузить скомпрометированную библиотеку — например, уязвимую версию популярного пакета Axios, — реестр JFrog перехватывает этот запрос.

Он блокирует установку, возвращая агенту ошибку политики безопасности с указанием, что запрос был «отклонен реестром JFrog из-за нарушения политики безопасности 403».

Что особенно важно, система не ограничивается простой блокировкой угрозы — она создает цикл динамического исправления. Агенту отправляется уведомление об уязвимости, после чего он получает указание автоматически найти и установить одобренную, невредоносную версию запрошенного пакета.

Для крупных организаций такая интеграция решает огромную проблему соблюдения нормативных требований. Мардер отмечает, что по мере внедрения автономных агентов на предприятиях им требуется абсолютная прозрачность.

Организациям нужна «система учета, нам нужно где-то отслеживать, какие агенты запущены, кем именно, какие пакеты они используют, какими навыками обладают и к каким MCP обращаются», — рассказал он VentureBeat.

Помимо прозрачности, интеграция с JFrog обеспечивает базовый «уровень доверия» и строгий контроль над тем, к чему эти автоматизированные системы имеют право получать доступ.

Лицензирование и доступность

В сфере распространения программного обеспечения именно лицензирование и параметры доступа определяют уровень внедрения. Партнерство NanoCo и JFrog использует двухуровневый подход, чтобы обслуживать как индивидуальных разработчиков open-source, так и строго регулируемые предприятия.

Для сообщества разработчиков с открытым исходным кодом интеграция полностью бесплатна. JFrog предоставляет пользователям NanoClaw из числа open-source-разработчиков бесплатный доступ к безопасным, проверенным источникам артефактов, инструментов и навыков.

Это позволяет индивидуальным разработчикам запускать автономных агентов локально, не утопая в ручных запросах на одобрение каждой отдельной зависимости. Более того, когда участники сообщества создают и делятся новыми «навыками» для агентов, эти материалы загружаются в реестр, проверяются на наличие вредоносного кода и одобряются до того, как ими сможет воспользоваться кто-либо еще.

Эта инфраструктура напрямую нейтрализует угрозу зараженных репозиториев сообщества.

Для корпоративных развертываний эта архитектура легко встраивается в существующую коммерческую среду организации. Вместо использования публичного реестра с открытым исходным кодом корпоративные пользователи направляют своих агентов NanoClaw в собственные внутренние реестры JFrog.

Это гарантирует, что вся активность агентов соответствует конкретным коммерческим лицензиям компании, внутренним политикам безопасности, требованиям к прозрачности и стандартам управления.

Поскольку ИИ продолжает стирать грань между человеческим намерением и машинным исполнением, инфраструктура, обеспечивающая безопасность этого исполнения, должна эволюционировать. Данное партнерство признает фундаментальную реальность: вы не можете обучить искусственный интеллект идеально распознавать каждую уязвимость нулевого дня; вместо этого вы должны создать среду, в которой агент просто физически не сможет добраться до уязвимости.