Атаки с использованием ИИ взламывают систему безопасности за 27 секунд

При поддержке Rubrik

Корпоративная кибербезопасность столкнулась с фундаментальной проблемой скорости. Передовые ИИ-модели теперь делают возможными автономные атаки, способные пройти путь от первоначального доступа до полного захвата системы всего за 27 секунд. Это быстрее, чем любой созданный человеком рабочий процесс безопасности успевает обнаружить угрозу, эскалировать её и отреагировать.

В результате службы безопасности больше не могут рассчитывать на то, что у людей останется время на реакцию между взломом и ущербом.

Уровень безопасности, необходимый предприятиям в эпоху искусственного интеллекта, строится на киберустойчивости: непрерывном определении чистых состояний для восстановления, картировании критически важных данных и зависимостей идентификации, а также на автоматизации восстановления, чтобы возвращать системы к работе за часы, а не за дни.

«Всё, что опиралось на процессы или вмешательство человека, больше не сможет выполняться со скоростью атак», — говорит Дев Риши (Dev Rishi), генеральный менеджер по направлению ИИ в Rubrik. — Если атаки происходят за 27 секунд, значит, и моё восстановление должно происходить с такой же скоростью».

Традиционные методы обнаружения и предотвращения бессильны против атак на базе ИИ

Логика на основе правил, определявшая корпоративную безопасность на протяжении десятилетий — такая как статический контроль доступа, обнаружение по известным сигнатурам и детерминированные поведенческие политики — создавалась для детерминированного ПО. ИИ-агенты ведут себя иначе. Они недетерминированы, способны преследовать одну и ту же цель самыми разными путями и всё лучше обходят статические защитные барьеры, находя альтернативные маршруты, когда один из них заблокирован.

Более глубокая проблема заключается в том, что традиционная логика безопасности проверяет учтные данные, разрешения и доступ, задавая вопрос, разрешен ли каждый отдельный доступ. Но она не способна оценить, образует ли последовательность разрешенных действий, совершенных в нескольких приложениях, утечку данных, деструктивную операцию или атаку.

«Вам нужна система, способная понимать контекст», — говорит Риши. — Вам нужно использовать ИИ, чтобы анализировать действия агента и говорить: “похоже, то, что вы делаете, может нести риск внешней утечки конфиденциальных данных”».

Как ИИ-агенты стирают грань между внутренними и внешними киберугрозами

Исторически сложилось так, что корпоративная безопасность проводила четкое различие между внешними и внутренними вектором угроз. Внешние угрозы могут быть многомерными, молниеносными и исходить из самых разных источников. С другой стороны, внутренние угрозы традиционно ограничивались тем, что мог совершить один человек до обнаружения, и были ограничены по скорости, охвату и масштабу. Однако это различие стирается по мере того, как ИИ-агенты начинают работать внутри корпоративных сред.

Эти агенты имеют доступ к нескольким системам одновременно и действуют с такой скоростью, с которой не может сравниться ни один сотрудник-человек. Когда агент совершает ошибку — например, допускает галлюцинацию, неверно истолковывает инструкцию или производит непреднамеренную передачу данных, — нанесенный ущерб по своим последствиям может быть неотличим от атаки злоумышленника изнутри. А когда внешний злоумышленник компрометирует внутреннего агента, он получает весь его полный профиль доступа во всех связанных приложениях.

«Независимо от того, является ли агент внутренней угрозой из-за непреднамеренной ошибки или потому что он был злонамеренно скомпрометирован, вам нужны средства защиты во время выполнения, которые последовательно применяют политики вашей организации ко всем агентам», — говорит Риши. — На практике ответом является ИИ-нативный защитный слой, который семантически мониторит поведение агента, понимает намерения за каждым действием и может заблокировать или остановить некорректно работающего агента со скоростью машины, а затем немедленно инициировать восстановление».

Подготовка к миру неизбежных компромиссов

Передовые ИИ-модели, в том числе способные автономно обнаруживать и использовать уязвимости нулевого дня, меняют экономику атак.

В результате растет интерес к готовности к сценариям Mythos. Предприятия всё чаще исходят из двух допущений: атаки неизбежны, а не исключительны, и инвестиции в устойчивость и быстрое восстановление должны рассматриваться столь же стратегически, сколь и инвестиции в предотвращение. Такой сдвиг превращает восстановление из посткризисного мероприятия в функцию, которая целенаправленно проектируется, тестируется и непрерывно проверяется.

«Идея о том, что вы можете быстро оправиться от атаки, станет одним из важнейших аспектов безопасности», — говорит Риши. — Это страховой полис, к которому организации теперь должны относиться как к первоклассной задаче».

Почему работа ИИ-систем киберустойчивости зависит от небольших моделей

Истинная киберустойчивость — это медаль о двух сторонах: она требует как интеллектуального применения мер в реальном времени для перехвата угроз на лету, так и автоматизированного восстановления для немедленного возобновления операций. Хотя наличие резервных копий является базовым требованием, организациям необходимы рабочие процессы, способные непрерывно контролировать системы со скоростью работы машин и мгновенно определять последнее чистое состояние в условиях атаки.

Применение ИИ к первой половине этого уравнения — обеспечению безопасности в реальном времени — создает фундаментальную техническую и экономическую проблему. Опора на массивные передовые модели для мониторинга каждого действия агента влечет за собой критические задержки и непомерные вычислительные расходы. Защитная ИИ-система, которая замедляет работу или стоит столько же, сколько защищаемые ею системы, просто нежизнеспособна для широкого внедрения.

«Это должна быть быстрая, маленькая и дешевая ИИ-модель», — говорит Риши. — Никто не захочет подписываться на защитное решение, которое удваивает затраты или задержки».

Именно поэтому небольшие языковые модели (SLM) имеют решающее значение для обеспечения безопасности в реальном времени. Подход Rubrik, подкрепленный приобретением компании Predibase, заключается в создании этого фронтального уровня защиты на базе небольших моделей, оптимизированных специально для скорости и эффективности. В отличие от тяжелых передовых моделей, SLM способны семантически оценивать поведение агентов со скоростью машин и за малую долю стоимости, выступая в роли контрольно-пропускного пункта в реальном времени.

Этот сверхэффективный уровень обеспечения безопасности обеспечивает более тесную и бесшовную связь с восстановлением. Когда система замечает, что агент совершает деструктивное действие — например, удаляет базу данных, повреждает критический файл или похищает конфиденциальные данные, — небольшая модель мгновенно обнаруживает это, пресекает ущерб, определяет самый свежий чистый снимок до инцидента и запускает восстановление в рамках единого автоматизированного рабочего процесса.

Переход от реагирования на инциденты к архитектурной устойчивости

Более широкое значение Mythos и аналогичных передовых ИИ-систем заключается в изменении того, как организации подходят к безопасности. Поскольку ИИ сокращает разрыв между атакой и ее последствиями, устойчивость и восстановление становятся архитектурными требованиями, а не просто операционными соображениями.

По мнению Rubrik, системы безопасности больше не могут ограничиваться лишь обнаружением. По мере того как ИИ-агенты обретают большую автономию, наблюдаемость, контекст идентификации и восстановление должны работать как скоординированный уровень устойчивости. Цель состоит не просто в том, чтобы выявить сбой, а в том, чтобы сократить разрыв между его обнаружением и восстановлением систем.

«То же самое, что порождает угрозы — передовые возможности таких моделей, как Mythos, — может быть использовано и для борьбы с ними, — говорит Риши. — Подготовка к эпохе ИИ означает сокращение разрыва между обнаружением сбоя и восстановлением затронутых систем до того, как издержки от этого разрыва начнут накапливаться».

Спонсорские статьи — это материалы, подготовленные компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко промаркированы. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.