Идентичность — это новая плоскость управления
Гонка за развертыванием агентного ИИ в самом разгаре. По всему миру корпоративные системы, способные планировать, действовать и взаимодействовать в рамках бизнес-приложений, обещают беспрецедентную эффективность. Но в спешке с автоматизацией упускается из виду критически важный компонент: масштабируемая безопасность. Мы создаем рабочую силу из цифровых сотрудников, не обеспечивая их безопасным способом входа в систему, доступа к данным и выполнения своих задач без создания катастрофических рисков.
Фундаментальная проблема заключается в том, что традиционное управление доступом и идентификацией (IAM), разработанное для людей, терпит крах в масштабах агентных систем. Такие элементы управления, как статические роли, долгоживущие пароли и однократные одобрения, бесполезны, когда нечеловеческие идентификаторы могут превосходить человеческие в пропорции 10 к 1. Чтобы использовать всю мощь агентного ИИ, идентификация должна превратиться из простого привратника при входе в динамическую плоскость управления всей вашей ИИ-деятельностью.
«Самый быстрый путь к ответственному ИИ — избегать реальных данных. Используйте синтетические данные для доказательства ценности, а затем заслужите право прикоснуться к настоящим». — Шон Канунго (Shawn Kanungo), ключевой докладчик, стратег по инновациям и автор бестселлеров «The Bold Ones»
Почему ваша ориентированная на человека система IAM абсолютно беззащитна
Агентный ИИ не просто использует программное обеспечение — он ведет себя как пользователь. Он аутентифицируется в системах, принимает на себя роли и вызывает API. Если вы относитесь к этим агентам как к обычным функциям приложения, вы навлекаете на себя незаметное расширение привилегий и неудаляемые следы действий. Один единственный агент с избыточными правами может выкачать данные или запустить ошибочные бизнес-процессы на машинной скорости, и никто ничего не заметит, пока не станет слишком поздно.
Статический характер устаревших систем IAM — это основная уязвимость. Невозможно заранее определить фиксированную роль для агента, чьи задачи и требования к доступу к данным могут меняться ежедневно. Единственный способ поддерживать актуальность решений о доступе — перенести обеспечение политик от единовременного предоставления прав к непрерывной оценке во время выполнения.
Докажите ценность до работы с производственными данными
Рекомендации Канунго предлагают практический старт. Начните с синтетических или маскированных наборов данных для проверки рабочих процессов агентов, их областей видимости и защитных механизмов. Как только ваши политики, журналы и пути аварийного доступа покажут себя жизнеспособными в этой изолированной среде, вы сможете с уверенностью перевести агентов на работу с реальными данными, имея на руках четкие свидетельства аудита.
Построение операционной модели для ИИ на основе идентификации
Обеспечение безопасности этой новой рабочей силы требует изменения мышления. Каждый агент ИИ должен рассматриваться как первоклассный гражданин в вашей экосистеме идентификации.
Во-первых, каждому агенту необходима уникальная проверяемая идентичность. Это не просто технический ID; она должна быть привязана к владельцу-человеку, конкретному бизнес-сценарию и спецификации программного обеспечения (SBOM). Эпоха общих служебных учетных записей подошла к концу; они равносильны тому, чтобы выдать мастер-ключ обезличенной толпе.
Во-вторых, замените подходы «настроил и забыл» на сессионные разрешения с учетом рисков. Доступ должен предоставляться точно в срок (just-in-time), ограничиваться текущей задачей и минимально необходимым набором данных, а затем автоматически отзываться по завершении работы. Представьте это так, будто вы даете агенту ключ только от одной комнаты на одно совещание, а не мастер-ключ от всего здания.
Три кита масштабируемой архитектуры безопасности агентов
Контекстно-зависимая авторизация в основе. Авторизация больше не может быть простым «да» или «нет» на входе. Она должна представлять собой непрерывный диалог. Системы должны оценивать контекст в реальном времени. Подтвержден ли цифровой статус агента? Запрашивает ли он данные, типичные для его назначения? Происходит ли этот доступ в рамках нормального операционного окна? Такая динамическая оценка обеспечивает как безопасность, так и скорость.
Целевой доступ к данным на периферии. Последним рубежом обороны является сам уровень данных. Встроив обеспечение политик непосредственно в механизм запроса данных, вы можете реализовать безопасность на уровне строк и столбцов на основе заявленной цели агента. Агенту службы поддержки должно автоматически блокироваться выполнение запроса, который выглядит так, будто он предназначен для финансового анализа. Привязка к цели гарантирует, что данные используются по назначению, а не просто доступны авторизованной сущности.
Защищенные от несанкционированного вмешательства свидетельства по умолчанию. В мире автономных действий аудируемость не подлежит обсуждению. Каждое решение о доступе, запрос данных и вызов API должны неизменяемо фиксироваться в журналах с указанием того, кто, что, где и почему сделал. Свяжите журналы так, чтобы они были защищены от подделки и могли воспроизводиться для аудиторов или специалистов по реагированию на инциденты, предоставляя четкую хронику действий каждого агента.
Практическая дорожная карта для начала работы
Начните с инвентаризации идентификаторов. Каталогизируйте все нечеловеческие идентификаторы и служебные учетные записи. Скорее всего, вы обнаружите общие учетные записи и избыточные привилегии. Начните выдавать уникальные идентификаторы для каждой рабочей нагрузки агента.
Проведите пилотное внедрение платформы оперативного доступа. Внедрите инструмент, который выдает недолговечные учетные записи с ограниченной областью действия для конкретного проекта. Это подтвердит концепцию и покажет операционные преимущества.
Сделайте обязательным использование недолговечных учетных данных. Выпускайте токены, срок действия которых истекает через минуты, а не месяцы. Найдите и удалите статические ключи API и секреты из кода и конфигураций.
Разверните песочницу с синтетическими данными. Сначала проверяйте рабочие процессы агентов, области видимости, промпты и политики на синтетических или маскированных данных. Переходите к реальным данным только после того, как средства контроля, журналы и политики вывода пройдут проверку.
Проведите командно-штабные учения по сценарию инцидента с агентом. Отработайте реагирование на утечку учетных данных, инъекцию промптов или эскалацию полномочий инструментов. Докажите, что вы можете отозвать доступ, сменить учетные данные и изолировать агента за считанные минуты.
Суть дела
Вы не сможете управлять будущим, управляемым агентным ИИ, с помощью инструментов идентификации человеческой эпохи. Победителями станут те организации, которые признают идентификацию центральной нервной системой для ИИ-операций. Сделайте идентичность плоскостью управления, перенесите авторизацию на этап выполнения, привяжите доступ к данным к их назначению и докажите ценность на синтетических данных, прежде чем прикасаться к настоящим. Сделайте это, и вы сможете масштабировать систему до миллиона агентов без увеличения рисков взлома.
Мишель Бакнер (Michelle Buckner) — бывший сотрудник по безопасности информационных систем (ISSO) в NASA.
Читайте другие материалы наших приглашенных авторов. Или отправьте собственную статью! Ознакомьтесь с нашими правилами здесь.
Добро пожаловать в сообщество VentureBeat!
Наша программа гостевых публикаций — это площадка, где технические эксперты делятся идеями и проводят независимый, непредвзятый детальный анализ ИИ, инфраструктуры данных, кибербезопасности и других передовых технологий, формирующих будущее бизнеса.
Читайте далее в рамках нашей программы гостевых публикаций и ознакомьтесь с нашими правилами, если вы хотите предложить собственную статью!
