Мошенничество с использованием дипфейков достигнет 40 млрд долларов к 2027 году

Исследователь из компании Palo Alto Networks’ Unit 42 сел за пятилетний компьютер, не имея опыта работы с изображениями и знаний о дипфейках. Спустя семьдесят минут этот исследователь создал синтетическую личность, достаточно убедительную, чтобы успешно пройти видеособеседование при приеме на работу в режиме реального времени. Таков быстрый путь создания дипфейка, которым пользуются злоумышленники: переход от полного отсутствия опыта к правдоподобному дипфейку всего за час с небольшим.

Этот эксперимент был призван воспроизвести то, чем занимаются поддерживаемые властями Северной Кореи хакеры в промышленных масштабах, когда украденные учетные данные и сфабрикованные персонажи объединяются в полноценные синтетические личности.

Лабораторный эксперимент доказал нечто худшее в самих инструментах: они настолько доступны, что любой мотивированный злоумышленник может сделать это, не вставая с постели. Корпоративная верификация личности должна была остановить именно это, но не смогла. И компании, подвергающиеся атакам, продолжают оформлять убытки как «мошенничество», вместо того чтобы признать их тем, чем они являются: сбоями на уровне идентификации, для предотвращения которых не был создан ни один антифрод-инструмент.

Цифры больше не описывают угрозу будущего

Потери от мошенничества с использованием генеративного ИИ в США вырастут с 12,3 млрд долларов в 2023 году до 40 млрд долларов к 2027 году, достигнув среднегодового темпа роста (CAGR) в 32%, согласно прогнозам Deloitte Center for Financial Services. В том же отчете документировалась целая подпольная индустрия в даркнете, продающая программное обеспечение для мошенничества по цене от 20 долларов до нескольких тысяч.

13 ноября 2024 года Сеть по борьбе с финансовыми преступлениями США (FinCEN) выпустила официальное предупреждение, в котором уведомила финансовые институты о росте случаев мошенничества с использованием дипфейков в отчетах о подозрительной деятельности (SAR). Ведомство зафиксировало устойчивый рост числа таких отчетов, описывающих применение дипфейк-медиа для обхода методов проверки и аутентификации личности.

Настоящая уязвимость кроется в организации, а не в технологиях

Вот неприятная правда, с которой большинство руководителей служб безопасности еще не столкнулись: злоупотребление идентификационными данными с помощью дипфейков никак не заложено в их бюджетах. Инциденты классифицируются как «мошенничество» и перенаправляются антифрод-командам, чьи средства контроля были разработаны для украденных кредитных карт, а не для сгенерированного ИИ видео с финансовым директором, одобряющим банковский перевод.

Верификация личности находится в ведении отдела комплаенс. Голосовая аутентификация относится к контакт-центру. Безопасность видеоконференций — к ИТ-операциям. Никто не владеет уровнем идентификации как единой поверхностью атаки, и этот разрыв образуется как раз между строками бюджета.

Майк Ример (Mike Riemer), полевой директор по информационной безопасности компании Ivanti, наблюдал за повторением этого сценария на протяжении двух десятилетий развития концепций безопасности. «Я прошел через эшелонированную защиту, принцип наименьших привилегий, а теперь и нулевое доверие. Все сводится к одному: знаете ли вы, кто находится по другую сторону клавиатуры? — рассказал Ример изданию VentureBeat. — Пока я не смогу это подтвердить, я не буду с ними общаться. Но большинство компаний по-прежнему относятся к проверке личности как к чему-то, что происходит один раз на проходной и больше никогда».

По прогнозам Gartner, из-за дипфейков, созданных с помощью ИИ, уже к этому году 30% предприятий перестанут считать автономные решения для верификации и аутентификации личности надежными по отдельности. Инъекционные атаки на биометрические системы выросли на 200% в 2023 году, и текущие стандарты обнаружения атак на предъявление (PAD) их не покрывают.

Пять «слепых зон» на уровне идентификации, которые злоумышленники эксплуатируют прямо сейчас

1. Биометрическая верификация предполагает, честна ли камера

Большинство систем корпоративной верификации личности полагаются на обнаружение атак на предъявление (PAD), которое проверяет, находится ли перед камерой реальное человеческое лицо. Цифровые инъекционные атаки полностью обходят камеру, подавая синтетическое видео напрямую в поток данных системы верификации. Стандарты PAD не охватывают существующие сегодня дипфейки, созданные с помощью ИИ, а обнаружение признаков жизни (liveness detection) вообще не срабатывает.

2. Голосовая аутентификация доверяет не тому сигналу

Клонирование голоса теперь требует всего нескольких секунд исходного аудио, согласно данным множества коммерческих платформ, включая Voice Engine от OpenAI, которая продемонстрировала клонирование по 15-секундному отрывку. Анализ компании Pindrop выявил увеличение числа дипфейков или воспроизведенных голосов во время корпоративных телефонных звонков на 756% в годовом исчислении. Тем не менее голосовая аутентификация остается надежным фактором в службах поддержки финансовых услуг и рабочих процессах утверждения решений руководства. Сигнал, подтверждающий, что голос звучит знакомо, — это именно тот сигнал, который злоумышленники теперь могут подделать.

В то же время в Отчете о мошенничестве с личностью за 2023 год от компании Sumsub отмечается, что количество инцидентов с дипфейками в финтехе выросло на 700% в годовом исчислении.

«Если они хотят скомпрометировать чью-то личность, они звонят в службу поддержки и притворяются этим человеком, — рассказал VentureBeat Адам Мейерс (Adam Meyers), старший вице-президент по противодействию киберугрозам в компании CrowdStrike. — Они провели сбор информации из открытых источников; они знают все, что им нужно знать. Они звонят в службу поддержки и говорят: „Эй, я не могу войти в систему“. И все начинается с этого».

Поверхностью атаки является вовсе не система аутентификации. Это человек на другом конце провода службы поддержки, действующий на основе доверия и знакомого голоса.

3. Видеоконференцсвязь рассматривается как аутентифицированный канал

Атака на компанию Arup удалась именно потому, что видеозвонки вызывают неявное доверие. Знакомое лицо на запланированной платформе запускает все инстинкты проверки, заставляющие думать: «Это реально». Компании построили свои рабочие процессы удаленного согласования на этом допущении. Это допущение рухнуло, и большинство команд безопасности не успели за изменениями. В отчете GetReal Security’s Deepfake Readiness Benchmark Report говорится, что 88% организаций теперь сталкиваются с дипфейками или атаками с подменой личности по крайней мере время от времени, а 41% наняли и приняли на работу мошенника.

4. Процессы удаленного найма опираются на визуальное доверие, которое ИИ обесценил

Северокорейские хакеры внедрились в более чем 320 компаний за последние 12 месяцев, используя украденные личные данные и технологию дипфейков в реальном времени во время видеоинтервью, согласно Глобальному отчету об угрозах CrowdStrike за 2026 год. Число компаний, которые по незнанию наняли северокорейских разработчиков, выросло на 220% в годовом исчислении. Упомянутый выше эксперимент Unit 42 доказал, что барьер для входа исчез. Спальня, обычный ноутбук и час работы позволяют создать синтетическую личность, которая обходит большинство процессов найма.

Даже компания KnowBe4, занимающаяся вопросами осведомленности о безопасности, по незнанию наняла северокорейского агента в 2024 году.

5. Распознавание человеком дает сбой в 75% случаев при столкновении с качественными дипфейками

Рецензируемые исследования показывают, что люди идентифицируют качественные дипфейки как подделку лишь в 24,5% случаев, даже будучи предупрежденными. Отчет Ironscales Fall 2025 Threat Report показал, что более половины опрошенных организаций сообщили о финансовых потерях, связанных с дипфейками или мошенничеством с использованием ИИ-голоса за последний год, в среднем более чем на 280 000 долларов за инцидент. Почти 20% сообщили о потерях в размере 500 000 долларов и более. Этот разрыв между предполагаемой готовностью и реальными убытками — именно то место, где орудуют злоумышленники.

Никто не владеет уровнем идентификации

У этих пяти «слепых зон» есть общая первопричина. Верификация личности, голосовая аутентификация, доверие на основе видео, валидация при найме и распознавание человеком — все это принадлежит разным командам с разными бюджетами, отчитывающимся перед разными руководителями. Директор по информационной безопасности (CISO) отвечает за безопасность конечных точек. Директор по комплаенсу отвечает за процедуру KYC (знай своего клиента). Вице-президент по HR отвечает за наем. Финансовый директор — за финансовый контроль. Злоупотребление личностью с помощью дипфейков не считается с этими границами. Оно эксплуатирует швы между ними. Это та уязвимость, которую не может исправить ни один патч от вендора.

Кейн МакГладри (Kayne McGladrey), старший член IEEE, рассказал VentureBeat, что проблема распределения ответственности носит структурный характер. «У CISO нет бюджета. У CISO нет штата. И даже если бы у них были бюджет и штат, у них нет управленцев проектной деятельностью и изменениями, подчиняющихся им напрямую», чтобы реализовать средства контроля идентификации для каждой бизнес-функции. CISO может наблюдать за рисками идентификации и давать советы, но бизнес-системы, в которых происходит мошенничество с учетными данными, принадлежат другим руководителям.

Индустрия осознала эту проблему ровно четыре года назад. В 2022 году компания Gartner представила концепцию обнаружения угроз идентификации и реагирования на них (ITDR) в качестве специализированной дисциплины безопасности, определив ее как набор инструментов и передовых практик, защищающих саму инфраструктуру идентификации от атак. Вице-президент по исследованиям Gartner Питер Ферстбрук (Peter Firstbrook) заявил тогда, что организации вложили много сил в возможности IAM (управления доступом), но большая часть этих усилий была сосредоточена на аутентификации пользователей, что фактически увеличило поверхность атаки. Концепция ITDR была создана для того, чтобы закрыть пробел, описанный МакГладри: единая дисциплина, объединяющая разрозненные элементы IAM и SOC в то, что Gartner теперь называет объединенной командой (fusion team).

Предприятия услышали это послание. Компания Siemens внедрила ITDR как часть своей облачной стратегии нулевого доверия. Томас Мюллер-Линч (Thomas Mueller-Lynch), руководитель службы цифровых идентификационных данных в Siemens, публично заявил, что теперь компания обладает видимостью в реальном времени для защиты от атак. Это практическое внедрение крупным предприятием, которое решило, что уровень идентификации стоит защищать как инфраструктуру.

В каталоге Gartner Peer Insights ITDR теперь представлены вендоры с рейтингами и корпоративными отзывами. Спустя четыре года после определения этой категории дисциплина существует, инструменты существуют, а компании, которые их используют, имеют на руках отчеты с результатами отражения атак. Большинство организаций до сих пор не развернули ITDR с той межфункциональной поддержкой, которая для этого требуется. Причина тому — описанный МакГладри разрыв в зоне ответственности.

Переквалификация угрозы меняет методы защиты

Предприятия, которые переживут этот сдвиг, — это те, которые перестанут называть это мошенничеством и начнут называть вещи своими именами: компрометация на уровне идентификации. Такая переквалификация позволяет перераспределить бюджет из фрагментированных антифрод-инструментов в единую инфраструктуру идентификации. Это заставляет CISO, комплаенс-контролера и директора по персоналу (CHRO) работать в рамках одного цикла планирования. Это делает непрерывную верификацию личности архитектурным стандартом.

Само по себе обнаружение не способно устранить пробел, который носит фундаментально организационный характер: один владелец, одна строка бюджета, а каждый канал рассматривается как потенциальный вектор доставки дипфейка.

Что делать в понедельник утром

Все пять описанных «слепых зон» имеют один общий архитектурный сбой: никто персонально не владеет уровнем идентификации, поэтому его никто и не защищает. Следующие пять шагов напрямую устраняют эти пробелы. Ни один из них не требует новых технологий. Все они требуют лишь того, чтобы кто-то решил: уровень идентификации — это их проблема.

1. Назначьте владельца. Один руководитель должен нести ответственность за риск синтетической идентификации в сфере безопасности, комплаенс, кадров и финансов. Не комитет. Если ваша оргструктура не может ответить на вопрос «кто отвечает за защиту от дипфейков», это ваша первая уязвимость.

2. Уничтожьте любые одноканальные согласования. Любой рабочий процесс, в котором только видео, только голос или только электронная почта могут авторизовать финансовую транзакцию, скомпрометирован. Требуйте второй канал верификации для каждого действия, превышающего ваш порог риска, используя обратный звонок по внутреннему корпоративному справочнику компании, а не по тому номеру, который предоставил звонящий.

3. Требуйте обнаружения инъекционных атак от каждого поставщика решений по проверке личности (IDV). Защиты от атак на предъявление недостаточно. Исследования Gartner недвусмысленны: инъекционные атаки полностью обходят камеру. Перед продлением любого контракта на верификацию личности требуйте от поставщиков продемонстрировать обнаружение инъекционных атак и проверку изображений в реальной среде. Требуйте непрерывных сигналов идентификации, а не точечных проверок. Если ваш текущий вендор не справляется с этой задачей — это ваш ответ.

4. Переклассифицируйте защиту от дипфейков в бюджете. Перенесите ее из категории противодействия мошенничеству в категорию безопасности идентификационных данных. Создайте отдельную статью расходов, покрывающую непрерывную верификацию личности, обнаружение дипфейков и корреляцию сигналов из разных каналов. Эта угроза недофинансируется, когда классифицируется как инструмент SOC. Она получает финансирование, когда оформляется как риск цифровой идентификации.

5. Обязательная заморозка дорогостоящих транзакций. Без исключений. Двадцатичетырехчасовая заморозка банковских переводов на сумму выше установленного вами порога. Никаких исключений в связи со срочностью или высоким статусом. Каждая дипфейк-атака строится на дефиците времени. Заморозка сводит это преимущество на нет. 15 переводов компании Arup были совершены за один день.

Тридцать дней на назначение владельца, ликвидацию одноканальности и пересмотр бюджета. Шестьдесят — на аудит поставщиков и политику заморозки транзакций. Исследователь из Unit 42 создал синтетическую личность за 70 минут. Набор инструментов стоит дешевле ужина. Злоумышленники не ждут.