Американцы испытывают трудности с распознаванием дипфейков

При поддержке Veriff

Американцы не могут надежно отличать реальный контент от сгенерированного искусственным интеллектом, и это проблема не только медиаграмотности — это прямая угроза тому, как компании верифицируют личность в интернете.

Новое исследование показывает, что, хотя многие люди знают о дипфейках, их способность отличать их от реальности едва ли превосходит подбрасывание монетки. Опрос 2026 года, проведенный компаниями Veriff и Kantar среди 3 000 респондентов в США, Великобритании и Бразилии, показывает, что американцы набирают всего 0,07 балла по шкале, где 0 представляет собой случайное угадывание.

Если люди не могут отличить подлинный визуальный контент, они не могут надежно отличить и подлинные личности. На практике это означает, что те же пользователи, которые взаимодействуют с цифровыми сервисами, часто не в состоянии определить, является ли человек по ту сторону экрана реальным.

Такая неэффективность имеет прямые последствия для любого цифрового бизнеса, который полагается на верификацию личности на основе изображений и видео для подтверждения того, кто находится по ту сторону экрана. Это касается всего: от регистрации клиентов в банках и восстановления учетных записей до проверки продавцов на маркетплейсах, дорогостоящих транзакций в электронной коммерции, аутентификации на социальных платформах и контроля доступа на уровне предприятий.

В США эти последствия уже вполне осязаемы: мошенничество с синтетическими данными теперь приносит миллиардные убытки ежегодно, а инструменты для создания убедительных подделок стали широко доступны.

В отчете также выделяется небольшая, но высокорисковая группа: около 7% пользователей, которые плохо справляются с обнаружением дипфейков, но при этом сохраняют уверенность в своих силах и редко проверяют то, что видят. Хотя в процентном соотношении это немного, в масштабе это миллионы учетных записей, которые представляют собой крайне уязвимые мишени для мошенников.

Если пользователи не могут надежно отличать реальные личности от синтетических, то любая система, зависящая от визуальной верификации, оказывается принципиально уязвимой. Верификацию личности больше нельзя рассматривать как функцию соблюдения требований (комплаенс); вместо этого она должна быть выстроена как ключевая цифровая инфраструктура.

«Теперь, когда контент, сгенерированный ИИ, становится неотличимым от реальности, человеческий глаз сам по себе больше не является надежным рубежом обороны», — говорит Айра Бондар-Муччи, руководитель направления платформ по борьбе с мошенничеством в Veriff. «Компании и политики в США должны срочно преодолеть этот разрыв в осведомленности и одновременно инвестировать в автоматизированные технологии верификации, которые способны обнаружить то, что люди просто не в состоянии заметить».

Разрыв в осведомленности о дипфейках в США шире, чем ожидалось

Соединенные Штаты могут быть мировым эпицентром разработки генеративного ИИ, однако американские потребители демонстрируют самую низкую осведомленность о дипфейках среди трех исследованных рынков. Лишь 63% взрослых американцев знакомы с этим термином по сравнению с 74% в Великобритании и 67% в Бразилии.

«Здесь наблюдается парадокс, — говорит Бондар-Муччи. — США являются мировым эпицентром разработки ИИ, однако американские потребители меньше всего знакомы с одним из его наиболее опасных побочных продуктов. Исторически у потребителей было более высокое базовое доверие к цифровому контенту, а дискуссии о мошенничестве больше концентрировались на конфиденциальности данных, чем на подлинности контента. Проблема в том, что низкая осведомленность не снижает риск, а усиливает его. Если вы не знаете, что такое дипфейк, вы гораздо реже остановитесь и проверите, не столкнулись ли вы с ним».

Человеческое обнаружение дипфейков едва ли лучше подбрасывания монетки

На практике случайность, которая характеризует способность потребителей отличать реальное от поддельного, проявляется во всех аспектах оценки различных типов контента. Видеоконтент оказался особенно сложным для оценки: поддельные видео часто принимались за подлинные, а реальные видео нередко отмечались как фальшивые. Даже при сравнении бок о бок мнения респондентов разделились примерно поровну, что является еще одним свидетельством того, что один лишь визуальный осмотр больше не является надежным методом проверки подлинности.

Излишняя уверенность в обнаружении дипфейков создает опасную уязвимость

Около половины респондентов из США заявляют, что уверены в своей способности распознавать дипфейки, однако эта уверенность намного превосходит реальные результаты, что доказывает бессмысленность самооценки.

Внутри этой группы выделяется та самая небольшая, но высокорисковая категория: примерно 7% пользователей, которые демонстрируют низкую точность, но при этом излишне уверены в своих силах и редко проверяют подозрительный контент.

«Этот разрыв между уверенностью и компетенцией создает ложное чувство безопасности, которым мошенники готовы воспользоваться, — отмечает Бондар-Муччи. — Когда люди верят, что их нельзя обмануть, они перестают искать признаки подделки. Именно тогда они наиболее уязвимы — будь то синтетическая личность, используемая в финансовом мошенничестве, или сфабрикованное видео, призванное манипулировать доверием».

Для бизнеса вывод очевиден: любая организация, которая все еще полагается на ручные процессы проверки или самоаттестацию клиентов, напрямую перенимает эту уязвимость. Человеческое суждение становится все менее надежным средством защиты, и верификация должна быть изначально заложена в системы по умолчанию. Это означает, что она должна быть автоматизированной, технологичной и не зависеть от самооценки конечного пользователя в отношении его способности отличать реальное от фальшивого.

Американцы беспокоятся о дипфейках, но доверяют платформам в их управлении

Обеспокоенность по поводу дипфейков в США высока: 79% респондентов заявляют, что они в значительной степени или чрезвычайно обеспокоены проблемой личного мошенничества и выдачи себя за другое лицо.

США отличаются от других рынков тем, куда направляется эта обеспокоенность. Американцы чаще, чем респонденты из Великобритании или Бразилии, доверяют социальным сетям и цифровым сервисам выявление контента, сгенерированного ИИ, и управление им. Такое делегирование ответственности может снижать индивидуальную бдительность именно в тот момент, когда угроза нарастает.

«Мы наблюдаем, как синтетические личности используются для открытия мошеннических счетов и авторизации транзакций, а видео-дипфейки применяются для обхода базовых проверок верификации, — поясняет он. — Ситуация становится особенно острой из-за сочетания сильной обеспокоенности с относительно высоким доверием к платформам. Этот разрыв между воспринимаемой и реальной защитой — именно та среда, в которой процветает мошенничество».

Обоснование необходимости автоматизированной верификации личности никогда еще не было столь убедительным

Разрыв между тем, что американцы считают себя способными обнаружить, и тем, что они могут сделать на самом деле, — это не проблема знаний, которую решат информационные кампании, а конструктивный изъян в любой системе, возлагающей бремя верификации личности на не обеспеченное технической поддержкой человеческое восприятие.

Эффективный ответ заключается не в том, чтобы исключить людей из процесса верификации, а в том, чтобы перестать поручать им задачи, которые человеческое восприятие больше не может выполнять надежно. Организации, которые упорно продолжают полагаться на процессы ручной проверки или самоаттестацию клиентов, переносят эту уязвимость в свою операционную деятельность.

Альтернативой является автоматизированная верификация личности на базе искусственного интеллекта, которая работает в момент взаимодействия, обнаруживает синтетические медиафайлы до того, как потребуется решение человека, и не зависит от способности конечного пользователя отличать реальное от поддельного.

«Видеть больше не значит верить, — говорит Бондар-Муччи. — Компании, которые выстраивают инфраструктуру верификации вокруг этой реальности, а не вокруг предположения, что все обстоит иначе, имеют наилучшие шансы сохранить доверие клиентов по мере дальнейшего развития ландшафта синтетических медиа».

Спонсорские статьи — это контент, подготовленный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко маркируются. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.