Убытки от мошенничества с дипфейками достигли $47 млрд в 2024 году

Загляните в бюджет корпоративной безопасности в поисках статьи «защита от дипфейков». Её там нет. Поищите в бюджете на борьбу с мошенничеством. Тоже нет. Поищите в управлении доступом и учетными записями. В бюджетах безопасности многих организаций этого по-прежнему не найти.

По данным Javelin Strategy & Research, в 2024 году убытки от мошенничества с личными данными и кибермошенничества в США достигли $47 млрд, причем большинство предприятий не могут указать ни одной статьи расходов, предназначенной для пресечения породивших их атак.

В Центре финансовых услуг Deloitte прогнозируют, что к 2027 году убытки от мошенничества с использованием генеративного ИИ только в сфере банковских и финансовых услуг США могут достичь $40 млрд — это отдельный показатель, охватывающий более узкую часть того же ландшафта угроз. Программы для создания скамов продаются в дарквебе всего за $20. Для клонирования голоса требуются считанные секунды образца аудио. Стоимость выдачи себя за финансового директора стремится к нулю. Отыскать эти убытки в корпоративном бюджете — совсем другая задача. Такой строки расходов просто не существует.

Бюджетное слепое пятно

Показатель Javelin отражает в первую очередь ущерб, наносимый потребителям. Корпоративный же сигнал кроется в том, как именно реализуются эти убытки. Например, только мошенничество с захватом учётных записей в 2024 году достигло $15,6 млрд, увеличившись на 23% по сравнению с предыдущим годом. При этом методы, стоящие за такими захватами — дипфейк-имперсонация, кража учетных данных и создание синтетических личностей, — это те же самые методы, которые сегодня нацелены на корпоративные процессы адаптации новых сотрудников (onboarding), верификации поставщиков и финансовых авторизаций.

Сеть по борьбе с финансовыми преступлениями США (FinCEN) выпустила официальное предупреждение в ноябре 2024 года, предупредив финансовые институты о росте числа случаев мошенничества с использованием дипфейков в отчетах о подозрительной деятельности (SAR). Ведомство попросило организации отмечать связанные с дипфейками SAR ключевым термином «FIN-2024-DEEPFAKEFRAUD» именно потому, что эти инциденты терялись в более широких категориях отчетности о мошенничестве. Когда федеральный регулятор вводит новый тег для мошенничества, это означает, что убытки уже переросли существующую классификацию.

Согласно «Отчету об инцидентах с дипфейками за I квартал 2025 года» от компании Resemble AI, число подобных инцидентов в I квартале 2025 года превысило совокупный показатель за весь 2024 год, а документально подтвержденные убытки по всему миру превысили $200 млн всего за один квартал. Расходы на борьбу с этим ложатся на плечи антифрод-команд. Сама же угроза бьет по инфраструктуре идентификации, и в разрыве между этими двумя статьями расходов действуют злоумышленники — за это не отвечает никто.

Кейн МакГладри (Kayne McGladrey), старший член IEEE, сообщил изданию VentureBeat, что эта невидимость носит структурный характер. «Если вы не можете заявить: „если бы в нашем процессе кредиторской задолженности появился дипфейк, вот такими были бы материальные убытки“, то вы не получите бюджет на технологии для решения проблемы, потому что проблема никого не волнует — ведь она не стоит денег».

Это не технологический сбой. Это бухгалтерский просчет.

Почему стеки идентификации бессильны против синтетических людей

Согласно Глобальному отчету CrowdStrike по угрозам за 2026 год, 82% зафиксированных в 2025 году атак обходились без вредоносного ПО, продолжая устойчивый рост с 79% в 2024 году и 51% в 2020 году. Никакой полезной нагрузки или эксплойтов не потребовалось. Злоумышленники заходили в системы под украденными учетными данными и сливались с легитимным трафиком. Время развития атаки (breakout time) сократилось до считанных минут, а латеральное перемещение (боковое движение) начинается еще до того, как большинство команд безопасности успевают обработать первое оповещение. Использование противниками ИИ привело к увеличению числа атак на 89% в годовом исчислении.

Компания KnowBe4, вся бизнес-модель которой построена на обучении сотрудников информационной безопасности, в июле 2024 года публично объявила о том, что она по незнанию наняла северокорейского агента, который попытался загрузить вредоносное ПО в ту же секунду, когда рабочий компьютер компании прибыл по назначению. Разведчик успешно прошел четыре видеоинтервью, проверку биографического анамнеза и успешно прошел сверку по фотографии. Агенты преодолевают любые барьеры, поскольку эти барьеры были созданы для проверки учетных данных, а не людей. Если компания, специализирующаяся на выявлении социальной инженерии, не может выловить синтетическую личность в собственном найме, значит, брешь носит архитектурный, а не образовательный характер.

По данным Gartner, к 2027 году 50% предприятий будут инвестировать в продукты или услуги безопасности от дезинформации и стратегии TrustOps по сравнению с менее чем 5% в настоящее время. Этот разрыв отражает дистанцию между текущим состоянием корпоративной защиты и тем, какой она должна быть. Вопрос в том, сдвинутся ли бюджеты до того, как убытки заставят их это сделать.

Ручные рабочие процессы против атак на скорости машин

Несоответствие скоростей носит структурный характер. Злоумышленник, прошедший аутентификацию — будь то с помощью украденных учетных данных или сгенерированного голоса, — может повысить привилегии и добраться до Active Directory еще до того, как ручная верификация успеет вмешаться.

Тем не менее, большинство предприятий по-прежнему проводят свои важнейшие решения по идентификации через ручные контрольные точки. Сброс паролей в службе техподдержки подтверждается голосом. Финансовые одобрения подтверждаются по видеосвязи. Подключение поставщиков валидируется проверкой документов. Каждый из подобных рабочих процессов предполагает, что человек на другом конце провода — настоящий. Это предположение стало основным вектором атак, и никакой объем тренингов по осведомленности о безопасности не исправит ситуацию, когда злоумышленники автоматизируют процессы на машинно-обусловленных скоростях.

Этот дисбаланс — осознанный выбор, а не ограничение. Устранение этого пробела требует внедрения верификации личности непосредственно в сами системы, а не ее прикручивания в качестве ручной контрольной точки.

Некоторые организации полностью отказываются от ручных рабочих процессов. Картер Рис (Carter Rees), вице-президент по искусственному интеллекту в Reputation, рассказал VentureBeat, что идентификация должна стать нативным входом для самого ИИ-рассуждения. «Мы движемся к фреймворку внедрения идентификации, где разрешения на основе ролей и поведенческие базовые показатели кодируются непосредственно в логику моделей, а не просто принудительно применяются в админ-панелях», — заявил Рис.

Активные кампании, нацеленные на корпоративную идентификацию

«Мы наблюдаем, как злоумышленники используют генеративный ИИ для масштабирования социальной инженерии, ускорения операций и снижения порога входа для атак с непосредственным участием оператора за клавиатурой», — рассказал VentureBeat Адам Майерс (Adam Meyers), старший вице-президент по операциям против противников в CrowdStrike.

Группировка FAMOUS CHOLLIMA, связанная с КНДР и отслеживаемая CrowdStrike, использовала генеративный ИИ для создания синтетических личностей, дипфейк-персонажей для интервью и помощи ИИ в написании кода с целью проникновения в более чем 320 компаний. Согласно глобальному отчету CrowdStrike по угрозам за 2026 год, это представляет собой увеличение на 220% в годовом исчислении.

Все это не теоретические цепочки атак. Это действующие операции с документально подтвержденными корпоративными жертвами.

Риски на уровне идентификации выходят за рамки аутентификации. Рис указал на новую поверхность атаки, которую большинство команд безопасности еще не нанесли на карту. «Эмбеддинги пользователей — это конфиденциальные артефакты идентификации, — сообщил он VentureBeat. — Если ими не управлять, они могут раскрыть защищенную медицинскую информацию (PHI) или личные данные (PII) посредством атак путем инверсии или проявления предвзятости. Лидеры безопасности должны относиться к эмбеддингам как к учетным данным». По мере того как организации кодируют идентификационные данные в системы ИИ, эти кодировки становятся мишенями. Та же политика управления, которая применяется к паролям и токенам, должна распространяться и на представления идентификационных данных внутри моделей.

Семь мер контроля на ближайшие 30 дней

1. Составьте карту каждого рабочего процесса, где один человек проверяет другого. Сброс паролей техподдержки по голосу. Финансовые согласования по видеосвязи. Авторизация руководства по обратному звонку. Перечислите их все. Каждая из них является поверхностью для дипфейк-атак. Считайте все они скомпрометированными до тех пор, пока не будет проведена их реархитектура.

2. Внедрите устойчивую к фишингу многофакторную аутентификацию (MFA) для всех привилегированных учетных записей в течение 30 дней. FIDO2 и WebAuthn привязывают аутентификацию к физическому оборудованию. Синтетические медиафайлы сами по себе не могут подделать запрос аппаратного подтверждения. Push-уведомления, SMS-коды и голосовая верификация могут быть перехвачены или подделаны. Аутентификация на базе оборудования остается самым надежным классом MFA против социальной инженерии с использованием дипфейков.

3. Внедрите обнаружение дипфейков для ваших самых ценных рабочих процессов. Обнаружение жизнеспособности аудио (audio liveness), анализ артефактов видео и поведенческая биометрия могут выявить синтетические медиа до того, как они дойдут до лица, принимающего решения. Эти инструменты имеют значительный уровень ложноположительных срабатываний, а изощренные злоумышленники могут обходить модели первого поколения, поэтому рассматривайте детектирование как триггерную растяжку, а не гарантию. Для сотен голосовых и видеопроцессов, миграция которых на FIDO2 займет месяцы, детектирование является временной мерой контроля, сужающей этот зазор.

4. Требуйте внеполосной (out-of-band) верификации для любой финансовой транзакции выше заданного порога. Когда единственный канал — будь то видео, голос или электронная почта — служит единственной точкой доверия, злоумышленникам достаточно скомпрометировать только этот один канал. Второй канал (верифицированный обратный звонок на известный номер или криптографическое подтверждение с помощью отдельного устройства) разрывает цепочку атаки.

5. Обеспечьте 72-часовой цикл установки патчей для критически важных систем, связанных с идентификацией. Злоумышленники занимаются реверс-инжинирингом обновлений в течение этого окна. Серверы аутентификации, инфраструктура SSO, службы каталогов, федеративные эндпоинты — отдайте им приоритет перед активами с более низким риском. Каждый час после 72-го часа для критически важной системы идентификации означает уязвимость.

6. Переклассифицируйте риск дипфейков в бюджете из категории «мошенничество» в категорию «безопасность идентификации». Если защита от дипфейков закреплена за антифрод-командой, а инфраструктура идентификации — за IAM, никто не отвечает за брешь между ними. Консолидируйте ответственность. Назначьте единого лидера, ответственного за риски синтетической идентичности во всех процессах онбординга, аутентификации и верификации транзакций.

7. Проведите аудит идентификаторов ИИ-агентов наряду с человеческими. Машинные идентификаторы в среднем на предприятии уже превосходят по численности пользователей-людей. Каждый ИИ-агент с постоянным доступом к системе нуждается в таком же управлении идентификацией, как и привилегированная учетная запись человека: ротация, поведенческие базовые линии, ограничение прав по принципу наименьших привилегий и обнаружение аномалий.