Anthropic описала новую проблему для команд безопасности: атаки, способные адаптироваться прямо в ходе выполнения

Злоумышленник создал ИИ-агентов, которые должны были пересобирать вредоносное ПО каждый раз, когда средства защиты его обнаруживали. В ходе отдельной операции предполагаемый участник группировки ShinyHunters примерно за три часа прошёл путь от похищенного токена разработчика до полного административного контроля над облачной средой жертвы. Anthropic описала обе операции в своём сентябрьском отчёте об угрозах.

Для команд безопасности обнаружение атаки не обязательно означает её остановку: вредоносное ПО можно пересобрать, а похищенные учётные данные для доступа к ИИ — использовать для новых вторжений за счёт владельца аккаунта.

Как работала кампания по пересборке вредоносного ПО

Anthropic отслеживала злоумышленника под обозначением GTG-20006 и оценила его методы как соответствующие тактикам Midnight Blizzard.

По данным Anthropic, злоумышленник использовал ИИ-агентов, чтобы отслеживать, обнаруживают ли средства защиты его вредоносное ПО. Когда продукт выявлял имплант, агенты изменяли и пересобирали его. Они должны были повторять этот процесс, пока вредоносное ПО не переставало обнаруживаться.

Злоумышленник массово выгрузил почтовые ящики как минимум двух производителей компонентов для дронов и похитил комплект средств разработки программного обеспечения проприетарной системы машинного зрения для дронов. Затем он провёл обратную разработку системы, восстановив архитектуру продукта, перечень комплектующих и сведения о зависимостях от поставщиков.

На этапах планирования, разведки и проведения операций злоумышленник нацелился более чем на 20 организаций, в том числе министерства, оборонные и разведывательные ведомства, посольства, аналитические центры и компании оборонно-промышленного комплекса; основная часть целей находилась в Украине и Европе. Он похитил более 300 000 записей национальных удостоверений личности и данные коммерческого реестра более чем полумиллиона компаний у государственного технологического ведомства в Северной Африке.

ИИ использовался на всех этапах — от разведки до вывода данных, однако выбор целей и проверка похищенной информации оставались за людьми. Тот же злоумышленник взломал поставщиков услуг гостевого Wi-Fi в гостиницах и подменил их записи DNS, чтобы разместить вредоносное ПО для целевых гостей. 31 июля Microsoft описала эту кампанию в своём отчёте о CaptiveCrunch.

Anthropic выяснила, что сопутствующие вредоносные модули были предназначены для блокировки обновлений безопасности на компьютерах жертв. Анализ Microsoft тех же инструментов, связанных общим адресом C2 и хешем файла в таблицах индикаторов обоих отчётов, выявил конкретный механизм. Для блокировки обновлений сигнатур Defender требовались права администратора; ChocoShell также включал методы обхода UAC, чтобы получить эти права.

Злоумышленник создал инструменты, замыкавшие цикл с обеих сторон: вредоносная программа пересобиралась, чтобы обходить уже имевшиеся у сканеров средства обнаружения, а жертве блокировали получение новых средств защиты. По словам Anthropic, способные противники могут «по крайней мере теоретически» обходить обнаружение быстрее, чем защитники успевают разрабатывать и внедрять новые методы.

От похищенного токена до администратора облачной среды — примерно за три часа

Предполагаемые участники группировки ShinyHunters использовали ИИ на всех этапах цепочки атаки. Один из них примерно за три часа прошёл путь от единственного похищенного токена разработчика до полного административного контроля над облачной средой жертвы.

Anthropic описывает этот подход как нечто похожее на «вайб-хакинг»: операторы задают ИИ общие цели и позволяют ему самостоятельно разбираться в каждой среде.

Во время отдельного взлома технологического провайдера операторы вывели более терабайта похищенных данных, включая сотни тысяч национальных идентификаторов и миллионы записей о платёжных картах. У авиакомпании операторы получили доступ к системам, в которых хранились десятки миллионов записей о пассажирах. По данным Anthropic, предполагаемые участники ShinyHunters также похищали у жертв ключи API для ИИ и переводили на них свои атакующие нагрузки.

Три проверки для команд безопасности

В задокументированных Anthropic атаках использовались хорошо известные уязвимости, в том числе раскрытые учётные данные, а ИИ помогал ускорять вторжения и адаптировать вредоносное ПО к обнаружению. Команды безопасности могут начать с проверки, есть ли такие же слабые места в их собственных средах.

Запустите TruffleHog или аналогичный сканер для проверки репозиториев кода, образов контейнеров и бинарных файлов мобильных приложений. Один из предполагаемых участников ShinyHunters массово скачал 1,8 миллиона APK-файлов для Android и проверил каждый на наличие секретов, жёстко прописанных в коде.

Составьте перечень всех учётных данных ИИ-агентов, используемых в рабочей среде, и зафиксируйте, какие агенты ими пользуются, к каким ресурсам они дают доступ и как их отозвать.

Проверьте, обнаруживает ли ваша EDR-система последовательные пересобранные варианты одного и того же импланта и отмечает ли попытки заблокировать обновления сигнатур Defender. Microsoft публикует названия детектов для обхода UAC, вмешательства в AMSI и перехвата COM. Убедитесь, что ваши средства защиты обнаруживают такие действия и что ваша команда может выявлять конечные устройства, которые перестали получать обновления сигнатур.