5 стартапов, борющихся с проблемой доверия к ИИ-агентам

Корпоративные ИИ-агенты способны выполнять работу, но инфраструктура, позволяющая им общаться друг с другом, доказывать свою надежность и проходить аудит в случае сбоев, все еще находится в стадии разработки.

Ниже рассказывается о том, как пять стартапов решают эту проблему — в области оркестрации, наблюдаемости, связи и безопасности, — как было показано на конференции VB Transform 2026.

BAND оркестрирует всех агентов, работающих у вас в фоновом режиме

В самом недалеком будущем агенты будут развернуты повсеместно и станут выполнять работу за нас, отметил Влад Лузин, технический директор и сооснователь компании BAND.

По его словам, они будут получать задачи, посещать реестры, привлекать других агентов на помощь, делегировать подзадачи ИИ-партнерам в «беседке для диалогов», собирать и передавать результаты, а затем возвращать сводку пользователю-человеку.

Чтобы воплотить это в жизнь, BAND создает уровень инфраструктуры координации для мультиагентных систем искусственного интеллекта.

Почему эту проблему не решают Telegram, Slack или Discord? Эти платформы созданы для людей, отметил Лузин. Агентов приходится подключать вручную в несколько этапов, и они не видят друг друга; «они все еще одиноки в своего рода цифровом одиночном заключении».

Кроме того, Claude не имеет состояния, и разработчики часто держат открытыми несколько сессий одновременно, переключаясь между ними для выполнения разных задач — по словам Лузина, это создает реальные трудности.

Задача заключается в соединении удаленных процессов, что Лузин назвал проблемой распределенных систем.

«Сначала нужно решить транспортный уровень — то, как агенты общаются в реальном времени», — сказал он. Беседы не могут происходить через IP-адреса и URL; их нужно перенести на уровень абстракции, чтобы агенты могли общаться по разным каналам, в диалоговых пространствах и на различных платформах.

«Агенты видят друг друга. Они понимают. Они могут сотрудничать. Они обсуждают проблемы. Они исправляют проблемы и запрашивают проверку у другого», — рассказал Лузин.

По словам Лузина, BAND поддерживает автономные рабочие процессы, которые могут длиться от 8 до 20 часов, и совместима с протоколами A2A и MCP. Важно отметить, что люди могут присоединяться к беседе по мере того, как агенты общаются и обнаруживают друг друга, добавил он.

«Мы можем записывать и показывать вам все задачи, которые ваш агент генерирует в реальном времени», — заявил Лузин.

Conifers помогает защитникам действовать на скорости машин

Самая большая проблема, с которой сегодня сталкиваются защитники, заключается в том, что они по-прежнему действуют на человеческой скорости, в то время как противники действуют на скорости машин, считает Том Финдли, генеральный директор и сооснователь компании Conifers.

Злоумышленники уже вовсю внедряют агентов, говорит Финдли, и им достаточно добиться успеха всего один раз, чтобы проникнуть в корпоративную сеть. Вредоносные кампании, которые раньше занимали месяцы и недели, теперь занимают часы или даже минуты. Операции по обеспечению безопасности, с другой стороны, фрагментированы, выполняются вручную, неэффективны и медленны.

По словам Финдли, в Conifers взяли различные компоненты киберзащиты — частную разведку, поиск угроз, детектирование, инжиниринг, расследование, реагирование — и наделили их агентскими свойствами. Затем они разрушили изолированные барьеры между ними, добавил он. Различные агентские системы могут взаимодействовать друг с другом, гарантируя, что оперативная и активная защита работают постоянно и адаптируются к ситуации.

Финдли сообщил, что система Conifers сокращает время локализации угрозы с 7 часов до 12 минут, а сложные киберрасследования компания может проводить за четыре минуты или быстрее.

Он подчеркнул важность интеграции с существующими инструментами безопасности предприятия, будь то обнаружение и реагирование на конечных точках (EDR), управление информационной безопасностью и событиями (SIEM), управление состоянием защищенности или другие решения. Conifers помогает клиентам понять их уровень безопасности, уязвимые места, какие элементы управления работают, а какие нет, а также определить направления для инвестиций с целью получения максимальной окупаемости (ROI).

«Ландшафт угроз меняется, методы обнаружения остаются прежними, а данные об угрозах не применяются на практике, — отметил Финдли. — Это работа для агентов».

Raindrop AI создает журнал аудита агентов

Одна из определяющих проблем текущей эпохи — поиск критических неполадок в ИИ-агентах, считает Бен Халак, технический директор Raindrop AI.

Это то, что он назвал «двойным ударом»: по мере того как агенты становятся более способными, возрастает их сложность, а также увеличиваются сроки выполнения задач — в некоторых случаях они работают часами или днями. Во-вторых, сбои могут иметь катастрофические последствия в таких секторах, как здравоохранение или оборона.

«Эта проблема усугубляется по мере совершенствования моделей и агентов, — говорит Халак, — и я думаю, есть все основания полагать, что она будет только нарастать».

По словам Халака, платформа Raindrop AI находит критические ошибки в работающих агентах и симулирует исправления на основе прошлого поведения пользователей. Это позволяет командам убедиться, что исправление работает должным образом перед запуском в продакшн, без появления непредвиденных побочных эффектов.

Платформа компании на основе обучения с подкреплением (RL) оптимизирует обвязку (harnesses) и обучает модели напрямую на данных Raindrop, сообщил он. Ее движок симуляции перед развертыванием помогает определить, какие исправления действительно повлияют на работу в продакшне; а живое A/B-тестирование демонстрирует эти изменения в действии.

Сообщения, вызовы инструментов, повторные попытки и ошибки фиксируются в едином месте, а пользователи-люди получают уведомления (обычно через Slack) при возникновении проблемы, рассказал он. Модели обучаются для каждого клиента, а сигналы обеспечивают непрерывное обучение для всех моделей и компонентов. «Все это спрессовано во что-то действительно навигабельное, понятное и легкое для проверки», — резюмировал Халак.

Arcade предоставляет агентам уровень допуска, необходимый для принятия мер

ИИ-агенты созданы для того, чтобы выполнять для вас самые разные задачи, но они часто сталкиваются с тремя основными трудностями: авторизация, управление и надежность.

Чтобы действовать от имени реальных пользователей с реальными разрешениями, агентам необходима новая архитектура безопасности, считает Сэм Парти, сооснователь и технический директор Arcade.dev.

По словам Парти, защищенная среда выполнения агентов от его компании обеспечивает этот уровень аутентификации и авторизации, позволяя агентам проходить критические проверки безопасности. Она также обеспечивает наблюдаемость, благодаря которой пользователи-люди могут отслеживать все действия агента. Каждое действие можно точно привязать к конкретному моменту времени с минимально необходимыми правами доступа.

Arcade поставляется в виде устанавливаемого плагина, который можно развернуть локально (on-prem) в изолированной среде; компании могут продолжать использовать собственные инструменты входа в систему и средства безопасности, отметил Парти. Когда что-либо запускается в Arcade, этот процесс контролируется теми же средствами управления доступом на основе ролей (RBAC), системами обнаружения и предотвращения вторжений (IDPS), политиками, правами и другими уже существующими точками контроля.

Arcade решает проблему атак на цепочку поставок, которая «стала настолько масштабной, в это трудно поверить», подчеркнул Парти. Обеспечение безопасности и наблюдаемости по-прежнему сопряжено с трудностями, поскольку «в значительной степени сама абстракция была выбрана неверно».

Omilia берется за «непростую» проблему обслуживания клиентов (CX)

Решение задач клиентского опыта (CX) на уровне предприятия — это «действительно непростая задача», говорит Клаудио Родригес, директор по продукту (CPO) компании Omilia.

Системы на основе эвристики контролируемы, но медленны; агентские системы быстры, но непредсказуемы, поясняет Родригес. Платформа Omilia создана для того, чтобы обеспечить одновременно и контроль, и скорость.

Агентское самообучающееся решение строится на философии наблюдения за процессами обслуживания клиентов в реальном времени, а не в абстракции. Агенты Omilia напрямую выявляют проблемы, прослушивают каждое взаимодействие клиента с сотрудником, обрабатывают данные, спецификации API, записи экранов и стандартные операционные процедуры (SOP), а затем сопоставляют их с реальными сценариями клиентской поддержки, рассказал он.

Контакт-центры должны быть источником дохода, считает Родригес, а конкурентным преимуществом Omilia являются ее системы распознавания речи, а также уровни управления и наблюдаемости.

ИИ генерирует аналитические данные, предлагает улучшения, автоматически создает разговорных агентов, извлекает информацию из документов и API и проектирует логику диалогов. Эксперты-люди могут тестировать реальные и смоделированные взаимодействия и запускать их в продакшн под своим контролем. Omilia объединяет все это в единый общекорпоративный движок, который постоянно обучается со временем, отметил Родригес.

По словам Родригеса, компания обрабатывает более 3 миллиардов звонков в год (в некоторых конфигурациях — более 1 миллиона голосовых вызовов в день) и добилась сокращения времени на решение проблем (TTR) на 30–45%. Агенты Omilia приносят в 21 раз больше дохода от дополнительных продаж по сравнению с человеческими операторами, добавил он.

При зрелом развертывании уровень автоматизации «легко» достигает 80–90%, говорит он. Тем не менее, «участие человека в контуре управления по-прежнему остается для нас фундаментальным».