Корпоративные риски агентного ИИ и пути их решения

ИИ-агенты размножаются внутри компаний быстрее, чем большинство руководителей успевает это осознать. Эти интеллектуальные агенты способны автоматизировать процессы, принимать решения и действовать от имени сотрудников. Они появляются в службе поддержки, IT-операциях, отделах кадров и финансах.

В чем проблема? Один неконтролируемый агент, имеющий доступ к вашей ERP-, CRM-системе или базам данных, может нанести больше вреда, чем злонамеренный инсайдер. И в отличие от человека-злоумышленника, агент может реплицироваться, эскалировать и распространять уязвимости за считанные секунды.

Бизнес-преимущества вполне реальны, но многие организации спешат вперед, не заложив основы для сдерживания рисков. В погоне за скоростью они могут променять инновации на беспрецедентные угрозы безопасности, астрономические расходы и кризисы в масштабах всей компании.

Иллюзия готовности к ИИ

Руководители часто считают, что они готовы к внедрению ИИ, потому что выбрали «правильную» модель или поставщика. Но готовность измеряется не программным обеспечением, а инфраструктурой.

В то время как многие организации все еще застряли в «режиме экспериментов», самые передовые игроки действуют агрессивно. Они создают системы, ориентированные в первую очередь на агентов, обеспечивают межмашинное взаимодействие и перестраивают свои API и внутренние инструменты для обслуживания интеллектуальных автономных агентов, а не людей.

В нашей модели зрелости и готовности к ИИ выделяется четыре фазы: разведка и генерация идей, эффективность и оптимизация, управление и контроль, и, наконец, инновации и трансформация.

Чтобы ответственно поддерживать агентов и достичь финальной фазы зрелости, организациям необходимы:

• Управление: четкие правила и надзор

• Обнаруживаемые API: машиночитаемые спецификации, а не PDF-файлы

• Управляемая событиями архитектура: чтобы агенты реагировали в реальном времени

• Проактивные элементы контроля: лимиты запросов, аналитика и мониторинг с первого дня

Без этого ИИ не сможет принести пользу — только уязвимости. И один вышедший из-под контроля агент может быстро дестабилизировать компанию, если не выстроена правильная инфраструктура.

Проблема вышедшего из-под контроля агента

Важно не количество агентов. Важен их масштаб.

Представьте разработчика, создающего агента с широким доступом к CRM, ERP и базам данных. Такого единственного агента можно перепрофилировать под различные задачи — например, сделать ботом в Slack, превратив удобство в критическую уязвимость.

Это новая инсайдерская угроза: более быстрое распространение, больше связей и меньше прозрачности.

Кризис идентификации на машинной скорости

Еще одна упускаемая из виду проблема — это идентификация. Идентичности людей и приложений хорошо изучены, а вот идентичности агентов новы и не урегулированы.

Сегодня предприятия просто не могут безопасно управлять миллионами идентичностей агентов в реальном времени. Стандарты все еще догоняют реальность, оставляя организации уязвимыми. И когда учетные данные утекают на машинной скорости, ущерб может быть мгновенным и катастрофическим.

Появляются лучшие практики: избегать жестко закодированных учетных данных, жестко ограничивать область доступа и обеспечивать каскадное отзыв прав в системах. Но большинство компаний еще не пришли к этому.

Расползание агентов и астрономические счета

Даже без утечек данных расходы могут выйти из-под контроля.

Агентов легко создавать, но трудно отслеживать. Команды запускают их независимо друг от друга, что приводит к дублированию, избыточности и лавинообразному росту вызовов API. В некоторых случаях агенты зацикливаются, перегружая системы и заставляя счета за облачные услуги взлетать до небес.

Это не второстепенный побочный эффект, а управленческий сбой. Защитные механизмы, такие как соблюдение квот, аналитика использования и ограничение частоты запросов, — это не факультативные дополнения. Это единственный способ сохранить системы и бюджеты в целости.

API: слабое звено в цепи агентного ИИ

Каждый ИИ-агент зависит от API. Тем не менее, большинство API создавались не для автономных машин, а для разработчиков.

Без управления аутентификация рушится, лимиты запросов исчезают, а сбои умножаются.

Решением является централизованное управление API. Шлюзы, обеспечивающие единообразную аутентификацию, авторизацию и логирование, создают предсказуемость, необходимую как людям, так и агентам. Без этого агенты действуют вслепую.

Автономия против контроля

Обещание агентного ИИ — это автономия: самонаправляющиеся системы, способные действовать без участия человека.

Рабочая модель позаимствована из платформ-инжиниринга. За последнее десятилетие многие компании внедрили команды создания платформ для предоставления стандартизированных, совместимых инструментов, которые расширяют возможности разработчиков без ущерба для контроля.

Агентный ИИ требует аналогичного подхода: централизованных, соответствующих требованиям платформ, которые обеспечивают прозрачность и безопасность, позволяя при этом командам внедрять инновации.

Создание защитных механизмов: управление агентами и протоколы

Путь к безопасному и эффективному агентному будущему требует специализированных решений. Централизованное управление ИИ-агентами имеет первостепенное значение. Сюда входят ИИ-шлюзы, которые контролируют вызовы API агентов, применяют правила безопасности и управляют ограничениями частоты запросов для предотвращения перегрузки системы. Оно также включает каталоги агентов — доступные для поиска реестры, в которых перечислены каждый агент, его функции, владелец и разрешения, что предотвращает избыточную разработку и обеспечивает четкую карту для команд безопасности и комплаенса. Панели мониторинга и наблюдаемости имеют решающее значение для отслеживания активности агентов и выявления необычного поведения.

Для устранения присущего неструктурированному межведомственному взаимодействию хаоса жизненно важен протокол Agent-to-Agent (A2A) — открытый стандарт, представленный Google. A2A обеспечивает структуру, доверие и интероперабельность, определяя, как агенты обнаруживают друг друга, безопасно обмениваются информацией и соблюдают правила политик в различных средах. Такие платформы, как Agent Mesh от Gravitee, нативно поддерживают A2A, предлагая централизованные реестры, регулирование трафика и встроенную безопасность для парка агентов.

Человеческий фактор

Технологии — не единственное препятствие. Существует и культурный барьер. Многие сотрудники уже испытывают «усталость от трансформаций» из-за многолетних инициатив по цифровым изменениям. Если агентный ИИ будет внедряться без доверия, прозрачности и обучения, его принятие замедлится, а сопротивление будет расти.

Лидерам необходимо соблюдать баланс: сделать ИИ полезным на передовой линии и в то же время обеспечить соблюдение требований в центре. Именно это соответствие между директивой руководства и ответственностью сотрудников определит, увенчаются ли внедрения успехом или потерпят крах.

Проснитесь до того, как произойдет утечка

Агентный ИИ — это не далекое будущее, он уже размножается внутри вашей компании. Без управления, наблюдаемости и контроля идентификации организации рискуют променять кратковременную продуктивность на долгосрочные кризисы.

Победителями станут не те компании, которые быстрее всех развернут агентов. А те, которые внедрят их ответственно, с архитектурой, созданной для масштабирования, безопасности и доверия.

Выбор очевиден: проснуться сейчас или продолжать лунатить до тех пор, пока тревожный звонок не прозвучит в виде утечки данных, раздутого бюджета или кризиса на уровне совета директоров.

Gravitee проводит саммит A2A для лидеров, занимающихся агентным ИИ, 6 ноября 2025 года в Нью-Йорке в партнерстве с Linux Foundation. На мероприятии будет исследоваться будущее оркестрации «агент-агент» (A2A) и автономных корпоративных систем. Оно соберет технологических лидеров из Gartner, Google, McDonald’s, Microsoft и других компаний, чтобы предоставить практические идеи, которые помогут организациям справиться с расползанием агентов и раскрыть весь потенциал принятия решений на основе ИИ. Узнайте больше здесь.

Рори Бланделл — генеральный директор Gravitee.

Спонсорские статьи — это контент, подготовленный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко маркируются. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.