Безопасность ИИ должна быть простой в использовании

При поддержке Snowflake

История корпоративной безопасности слишком часто сводится к тому, чтобы делать рабочие процессы всё более сложными. Появляется новая угроза, внедряется новый элемент контроля, и в какой-то момент сотрудники начинают искать обходные пути вокруг тех самых систем, которые призваны их защищать.

За годы своей карьеры я на собственном опыте убедился, что внедрение мер безопасности редко терпит неудачу из-за того, что людям на неё наплевать. Оно терпит неудачу потому, что безопасный путь кажется более сложным, чем небезопасный.

В эпоху искусственного интеллекта этот урок важен как никогда.

ИИ расширяет поверхность атак и поднимает планку возможностей злоумышленников, что делает упрощение безопасности ещё более критически важным. Средства защиты, требующие усилий или неудобные в использовании, в конечном итоге начинают игнорировать. Люди находят обходные пути. Решение заключается в том, чтобы сделать безопасный путь самым простым.

Безопасность работает лучше всего, когда она не мешает

Когда пользоваться безопасностью проще, чем избегать её, люди принимают её. Много лет назад, когда индустрия внедряла двухфакторную аутентификацию в массовом масштабе, главной проблемой было не создание самой защиты, а сопутствующие ей неудобства. Людям приходилось прерывать работу, брать телефон, запускать VPN, вводить коды и отвлекаться от рабочих задач только ради входа в систему.

В конечном итоге к массовому использованию привели не правила, требования комплаенса или обучение безопасности. Это была простота. Теперь, когда это делается в одно касание по отпечатку пальца или скану лица, люди используют это без колебаний.

Тот же принцип заставил разработчиков браузеров сделать безопасность более заметной и интуитивной для повседневных пользователей. Вместо того чтобы заставлять людей вручную проверять URL-адреса, современные браузеры наглядно помечают сайты без HTTPS как небезопасные, помогая пользователям по умолчанию выбирать более безопасное поведение. Безопасность стала эффективнее во многом потому, что безопасный путь стал одновременно более простым и очевидным.

Где в ИИ проявляется сложность

Права доступа агентов — хороший пример того, как это работает в системах ИИ. Сотрудники со временем накапливают множество разрешений: доступ к одному проекту, к другой системе, роль, которая так и не была аннулирована после смены команды. Люди интуитивно понимают, какой доступ имеет отношение к задаче, даже если система не требует этого напрямую.

У агентов такого чутья нет. Агент, которому поручена проблема, будет исследовать каждый доступный путь. Если он может получить доступ к 12 системам, а для задачи нужны только две, он всё равно может изучить остальные 10. Он просто действует тщательно, но в результате поверхность потенциальной атаки оказывается гораздо шире, чем требовалось для задачи.

Возникает искушение внедрить человека в контур принятия решений: фиксировать ключевые действия и запрашивать одобрение перед продолжением работы. Но на практике агент может запросить у человека одобрение глубоко технического действия, не предоставив при этом достаточного контекста для оценки его уместности. В большинстве случаев пользователь одобрит его просто для того, чтобы не останавливать рабочий процесс. Это лишь добавляет лишних трудностей и создаёт ложное ощущение контроля.

На самом деле необходима модель предоставления прав, построенная на основе намерений. У агента должны быть только те учетные данные, которые необходимы для конкретной задачи, и они должны аннулироваться по её завершении. Индустрия уже начинает переходить к более совершенным моделям. Такие стандарты, как OAuth, эволюционируют, чтобы поддерживать агентный ИИ, позволяя агентам использовать удостоверения, привязанные к конкретной задаче, а не полный набор прав пользователя.

Как сделать безопасность ИИ простой в использовании

Простота использования начинается с прозрачности, поэтому первый приоритет — понимание того, что происходит на самом деле. К чему подключаются ваши агенты? К каким данным они обращаются? Какие права они используют?

Многие компании удивляются результатам, когда впервые обращают на это внимание. Большинство организаций работают примерно с 80% прозрачности и контроля. Проблема заключается в оставшихся 20%, поскольку именно там обычно кроются реальные риски. ИИ обнаружит эти пробелы гораздо быстрее, чем люди. Начните с мониторинга, даже если вы ещё не готовы ничего принудительно внедрять. Используйте ИИ для анализа полученных данных и приоритизации поведения с наибольшим риском. Затем систематически устраняйте эти уязвимости.

Что касается управления доступом, по возможности переходите на аутентификацию на уровне рабочих нагрузок (workload identity). Старая модель создания служебных учетных записей, скачивания ключей и их распространения по всей инфраструктуре ненадежна и сложна для аудита. Современные облачные среды предлагают лучший подход: удостоверение рабочей нагрузки устанавливается при развертывании, а учетные данные никогда не распространяются в виде статических ключей. Нагрузка на администрирование снижается, а поверхность атаки уменьшается вместе с ней.

Что касается конкретно агентов, избегайте соблазна наделять их широкими полномочиями в расчете на то, что ручная проверка людьми предотвратит проблемы до их возникновения. Ограничивайте доступ агентов рамками текущей задачи и следите за тем, чтобы эти разрешения аннулировались по завершении работы. Для команд, управляющих множеством подключений «агент-инструмент», шлюзы MCP становятся практичным способом централизованного кодирования правил управления, а не настройки для каждого инструмента в отдельности. Привлекайте человека к принятию действительно важных решений, а не каждого действия — особенно тех, где цена ошибки высока.

Темпы роста рисков ускоряются

В эпоху ИИ разрыв между появлением уязвимости и её эксплуатацией стремительно сокращается — с дней до часов, а в некоторых случаях и минут. Глобальный отчет о киберугрозах компании CrowdStrike за 2026 год показывает, что среднее время выхода злоумышленника в сети жертвы ускорилось на 65% по сравнению с предыдущим годом. Поскольку ИИ всё лучше самостоятельно выявляет уязвимости, службы безопасности, полагающиеся на ручные процессы реагирования, неизбежно начнут отставать.

Однако ответ на этот вызов остался прежним. Безопасность, создающая помехи для работы, в конечном итоге будет обойденной. Безопасность, встроенная непосредственно в архитектуру, применяемая по умолчанию и незаметная на практике — вот что действительно работает. ИИ поднимает ставки, но принцип остается неизменным: безопасность эффективна только тогда, когда безопасный путь оказывается самым простым.

Маянк Упадхай (Mayank Upadhyay) — директор по информационной безопасности и доверию в Snowflake.

Спонсорские статьи — это контент, подготовленный компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко маркируются. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.