Дипфейки обойдутся в 40 млрд долларов к 2027 году

Примечание редактора: Это вторая часть материала, состоящего из двух частей. Читайте первую часть здесь.

Дипфейки обойдутся в 40 миллиардов долларов к 2027 году. ИИ-агенты бесконтрольно размножаются. Машинные идентичности растут в геометрической прогрессии. Лидеры в сфере безопасности спешно выстраивают оборону от угроз, которых 18 месяцев назад еще не существовало.

Финансовый директор получил звонок в 3 часа ночи. Голос генерального директора был безошибочен: акцент, манера речи, даже нервное покашливание. Перевод на 1 миллион долларов был одобрен немедленно. К утру вскрылась правда: гендиректор спал в Лондоне. Голос оказался дипфейком. Деньги исчезли.

Этот сценарий ежедневно разыгрывается на предприятиях по всему миру. Атаки с использованием дипфейков обойдутся организациям в 40 миллиардов долларов к 2027 году. Технологии, казавшиеся теоретическими два года назад, теперь работают в промышленных масштабах.

Дипфейки представляют собой лишь один из аспектов формирующегося ландшафта угроз. Интеграция генеративного ИИ в системы управления доступом создает векторы атак, которые организации только начинают осознавать. ИИ-агенты с широкими полномочиями, машинные идентичности, размножающиеся за пределами всякого понимания, теневые ИИ-системы, создающие несанкционированные учетные записи, — инструменты, призванные защищать, превращаются в оружие.

Кризис дипфейков на 40 миллиардов долларов набирает обороты

Статистика отражает лишь часть картины. Отчет Persona по мошенничеству с идентичностью за 2024 год показывает, что было заблокировано 75 миллионов попыток создания дипфейков только в сфере мошенничества при найме — и это лишь один вендор в одном сегменте. Экстраполяция на другие отрасли говорит о миллиардах ежегодных попыток атак с помощью дипфейков.

Эволюция происходила стремительно. Число инцидентов с дипфейками подскочило на 3000% в 2023 году. В контакт-центрах зафиксирован рост голосовых атак на 700%. К 2024 году для создания убедительного голосового клона требовалось менее трех минут аудио, которое легко извлечь из отчетов о прибылях и убытках, подкастов или социальных сетей.

Документация по безопасности GPT-4o от OpenAI теперь включает встроенные функции обнаружения дипфейков. Тот факт, что ИИ-компании внедряют средства защиты от дипфейков непосредственно в модели, говорит о масштабе угрозы.

В недавнем выпуске Tech News Briefing с Wall Street Journal генеральный директор CrowdStrike Джордж Курц (George Kurtz) рассказал о том, как усовершенствования в области ИИ помогают специалистам по кибербезопасности защищать системы, а также прокомментировал использование этих технологий злоумышленниками. Курц побеседовал с репортером WSJ Дастином Вольцем (Dustin Volz) об искусственном интеллекте, выборах в США 2024 года, а также об угрозах со стороны Китая и России.

«Сегодняшняя технология дипфейков настолько хороша. Я думаю, это одна из тех сфер, которая вызывает реальное беспокойство. Помню, в 2016 году мы отслеживали это: люди вели беседы просто с ботами — и это было в 2016-м. Они буквально спорят или продвигают свои идеи, поддерживая интерактивный диалог, хотя за этим вообще никого нет. Так что, на мой взгляд, людям очень легко поверить, что это реально, или поддаться нужному нарративу, но многое из этого может управляться и управляется другими государствами», — отметил Курц.

Кристиан Родригес (Cristian Rodriguez), технический директор CrowdStrike по работе в Северной и Южной Америке, добавил: «Дипфейки, ИИ-агенты, теневой ИИ — это больше не маргинальные случаи. Это сегодняшняя поверхность атаки. Старая модель квартальных проверок доступа или статических политик просто не успевает за угрозами машинной скорости. Нам нужен ИИ, защищающий от ИИ, в то время как люди задают стратегию, а не гоняются за оповещениями».

Исследования состязательного ИИ (adversarial AI) документируют наступление эпохи «поверхностного доверия», в которой ни одно цифровое взаимодействие нельзя принимать за чистую монету. Атаки на корпоративную почту последнего десятилетия покажутся примитивными на фоне возникающих угроз.

ИИ-агенты: нерегулируемая поверхность атаки

Каждый ИИ-агент представляет собой суперпользователя с постоянным доступом к системе. В отличие от людей, которые входят в систему и выходят из нее, ИИ-агенты поддерживают непрерывное соединение. В отличие от традиционных служебных учетных записей с ограниченной областью видимости, ИИ-агенты требуют широких полномочий для своей работы.

Машинные идентичности уже превосходят человеческие в соотношении 45:1. ИИ-агенты экспоненциально ускоряют этот взрывной рост. Типичные развертывания корпоративного ChatGPT создают десятки агентов, каждый из которых требует идентичности, учетных данных и прав доступа. Используя Claude, Gemini, Copilot и проприетарные системы, организации внезапно начинают управлять тысячами ИИ-идентичностей с минимальным надзором.

Сценарии атак уже претворяются в жизнь. Злоумышленники скомпрометировали ИИ-агента, имевшего доступ ко всей базе знаний компании. Вместо того чтобы напрямую воровать данные, что вызвало бы срабатывание тревоги, они внедрили в ответы агента искажения, незаметно скармливая дезинформацию сотрудникам в течение нескольких недель. До обнаружения инцидента на основе испорченных данных были приняты критически важные бизнес-решения.

Распространение машинных идентичностей: нарастающий кризис поверхности атаки

Машинные идентичности представляют собой наиболее недооцененный вектор угрозы в кибербезопасности. В настоящее время организации управляют в 45 раз большим числом машинных идентичностей, чем человеческих, причем общее число идентичностей растет на 240% ежегодно. Этот экспоненциальный рост делает традиционные архитектуры IAM недействительными.

Операционная реальность обнажает критические пробелы. Контейнеры часто завершают работу менее чем за 5 минут, однако они успевают породить учетные данные, пройти аутентификацию и получить доступ к ресурсам до того, как традиционные IAM-системы зарегистрируют их существование. Карл Трибес (Karl Triebes) из Ivanti подтверждает: «Традиционные IAM-системы даже не способны обнаружить эти идентичности».

Масштаб усугубляет уязвимость. На предприятиях насчитывается более 15 000 служебных учетных записей (92% из них бесхозные), более 25 000 ключей API (67% никогда не ротируются) и более 50 000 сертификатов (40% самоподписанные). Данные CyberArk показывают, что 68% взломов эксплуатируют нечеловеческие учетные данные. Инцидент с SolarWinds продемонстрировал каскадный эффект: одна скомпрометированная служебная учетная запись спровоцировала сбой во всей организации.

Передовые компании внедряют автоматизацию. Venafi’s TLS Protect сопоставляет инфраструктуры сертификатов за считанные часы, предотвращая 89% сбоев, связанных с сертификатами. Фреймворки SPIFFE/SPIRE предоставляют криптографические идентичности рабочей нагрузки, которые автоматически ротируются и завершаются вместе с рабочими нагрузками, устраняя накопление статических учетных данных.

Рыночная динамика подтверждает срочность ситуации. Объем рынка управления машинными идентичностями достигнет 5,13 млрд долларов в 2024 году и вырастет до 14,81 млрд долларов к 2032 году при совокупном годовом темпе роста (CAGR) в 14,19%. Аналитика Gartner показывает, что организации без автоматизированного управления машинными идентичностями (MIM) сталкиваются с в 4 раза более высокой вероятностью взлома. Внедрение приносит измеримую отдачу: сокращение числа инцидентов с учетными данными на 73% в течение шести месяцев.

Родригес добавил: «Рост числа машинных идентичностей — это тревожный звонок. Когда на каждого сотрудника приходится 45 служебных учетных записей, вы не сможете защитить их с помощью устаревших систем IAM. Если у вас нет прозрачности в отношении каждой идентичности — человеческой, машинной и искусственного интеллекта — вы действуете вслепую. К этому и должна прийти безопасность идентичностей: в режиме реального времени, в автоматическом режиме и с объединением всех доменов».

Управление машинными идентичностями представляет собой следующую критически важную инвестицию в безопасность. Организации, устраняющие этот пробел, получают конкурентное преимущество за счет снижения рисков взлома и операционной эффективности.

Теневой ИИ: множитель утечек на 4,63 миллиона долларов, прячущийся на видном месте

По данным отчета IBM за 2025 год, теневой ИИ обходится предприятиям в 4,63 миллиона долларов за один взлом (что на 16% выше среднего показателя), при этом 97% организаций, столкнувшихся со взломом, не имеют базовых элементов контроля доступа к ИИ.

«Мы фиксируем появление 50 новых ИИ-приложений в день и уже внесли в каталог более 12 000», — рассказал VentureBeat Итамар Голан (Itamar Golan), генеральный директор Prompt Security. «Подразделения хватаются за несанкционированные ИИ-решения, потому что сиюминутные выгоды слишком заманчивы, чтобы их игнорировать», — отметил Винеета Арора (Vineet Arora), технический директор WinWire, в недавнем интервью VentureBeat. «Внезапно у вас появляется дюжина малоизвестных ИИ-приложений, обрабатывающих корпоративные данные без единой проверки на соответствие требованиям или оценку рисков», — предупредил Арора.

Недавний анализ VentureBeat дает точную оценку масштабам теневого ИИ:

Исходя из ежемесячного роста в 5%, количество теневых приложений может удвоиться к середине 2026 года. Данные Cyberhaven показывают, что 73,8% рабочих аккаунтов в ChatGPT являются неавторизованными. Использование корпоративного ИИ выросло в 61 раз за 24 месяца. Один директор по информационной безопасности из списка Fortune 500, пожелавший остаться анонимным, точно охарактеризовал ситуацию: «Это все равно что пытаться пересчитать дым».

Традиционные методы безопасности здесь терпят крах. «Большинство традиционных инструментов управления не имеют комплексной видимости ИИ-приложений», — пояснил Арора в интервью VentureBeat. Предложенная им концепция управления решает эту проблему: создать Офис ответственного ИИ, развернуть средства контроля безопасности с учетом специфики ИИ и применить концепцию нулевого доверия (zero trust) к архитектурам ИИ.

«Тотальные запреты часто загоняют использование ИИ в подполье, что лишь усиливает риски», — подчеркнул Арора. «Вы не можете остановить внедрение ИИ, но вы можете направить его в безопасное русло».

Закон об искусственном интеллекте ЕС (EU AI Act) «может затмить даже GDPR по размерам штрафов», считает Голан. Тем не менее запреты не работают. «Как только у сотрудников появляются санкционированные пути использования ИИ и четкие правила, они больше не чувствуют необходимости исподтишка пользоваться случайными инструментами», — подтвердил Арора.

Стратегические императивы для лидеров в сфере безопасности

После 18 месяцев исследований и анализа десятков инцидентов со взломами, задокументированных в отчете IBM о стоимости утечки данных за 2024 год, вырисовываются четкие императивы.

Исходите из неизбежности компрометации любой отдельной идентичности. Проектируйте системы так, чтобы ограничивать зону поражения, а не предотвращать каждый взлом. Эрик Харт (Eric Hart), глобальный директор по информационной безопасности Cushman & Wakefield, поддержал эту философию: «Дело не в том, чтобы полностью избежать инцидентов безопасности. Дело в минимизации ущерба, когда они неизбежно происходят».

Инвестируйте в видимость идентичностей до добавления инструментов безопасности. Организации не могут защитить то, чего не видят. Успех требует полной прозрачности всех идентичностей — человеческих, машинных и ИИ — прежде чем пытаться осуществлять управление.

Готовьтесь к дипфейкам как к экзистенциальным угрозам, а не к маргинальным случаям. Каждой организации немедленно нужны средства защиты от дипфейков. Прогнозируемые убытки в размере 40 миллиардов долларов к 2027 году понесут те организации, которые предпочли выжидать.

Управляйте ИИ-агентами до того, как они начнут управлять собой. Окно возможностей для контроля закрывается. Как только ИИ-агенты станут достаточно автономными, чтобы сопротивляться управлению, будет уже поздно.

Примите устаревание традиционных моделей безопасности. Статические политики, периодические проверки и управление в человеческом масштабе не могут функционировать там, где миллионы идентичностей работают на машинной скорости. Будущее требует, чтобы ИИ защищал от ИИ, а люди задавали стратегию, а не управляли реализацией.

Императив эволюции

Трансформация безопасности идентичностей с помощью генеративного ИИ знаменует собой переломный момент для кибербезопасности. Организации, которые используют эти возможности и одновременно управляют рисками, добьются успеха. Те, кто этого не сделает, станут жертвами самых значительных перемен в безопасности со времен появления интернета.

Инструменты, необходимые организациям, уже существуют: от платформы CrowdStrike Falcon, платформы безопасности идентичностей CyberArk, автономной идентичности ForgeRock, Ivanti Neurons, Microsoft Security Copilot, Okta Identity Cloud, Cortex от Palo Alto Networks, Singularity от SentinelOne до панели управления Venafi Control Plane. У лидеров безопасности есть ресурсы для противодействия дипфейкам, нерегулируемым ИИ-агентам и взрывному росту машинных идентичностей, но действовать стратегически нужно прямо сейчас.

Мудрость Харта находит отклик: «Безопасность — это непрерывное обслуживание, эта эволюция. Как можно посмотреть на имеющиеся у вас вещи и использовать их новыми или иными способами?» В эпоху, когда ИИ-агенты множатся, дипфейки разрушают доверие, а машинные идентичности экспоненциально превосходят людей, эволюция — это не просто рекомендация, это обязательное условие выживания.

Состязание между атаками на базе ИИ и защитой на базе ИИ определит облик кибербезопасности на следующее десятилетие. Победители осознают, что безопасность идентичностей — это больше не просто управление доступом, это управление экосистемой человеческих, машинных и ИИ-сущностей, функционирующих в беспрецедентных масштабах и на рекордных скоростях.

Трансформация уже здесь. Риски реальны. Возможность возглавить процесс, а не реагировать задним числом, стремительно сужается. Что произойдет дальше, зависит от решений, которые лидеры безопасности примут в ближайшие 18 месяцев.