По данным Amazon, хакеры используют украденные ключи API для ИИ, чтобы запускать агентов, которые ищут новые ключи

По данным Amazon, хакеры используют украденные ключи API для ИИ, чтобы запускать агентов, которые ищут новые ключи

Согласно данным, зафиксированным датчиками-ловушками Amazon MadPot в период с 3 октября по 5 ноября, ИИ-агенты в рамках кампании киберпреступников использовали украденные ключи API, чтобы получить доступ к моделям ИИ, которые помогали им искать новые ключи. Amazon не наблюдала за атаками напрямую и не могла независимо проверить описанные в записях результаты.

Amazon со средней степенью уверенности полагает, что агенты работали на ARTEX — платформе для тестирования на проникновение с открытым исходным кодом и на базе ИИ. В рекомендации от 13 ноября ФБР сообщило, что некоторые вторжения с использованием ARTEX менее чем за три часа прошли путь от первоначального выбора цели до получения привилегированного доступа.

Как агенты искали украденные ключи API и использовали их повторно

По данным ФБР, ARTEX преобразует инструкции на естественном языке в команды, которые выполняют специализированные ИИ-агенты. Платформа использует внешние большие языковые модели (LLM), а не собственную модель. В записях Amazon описано, как агенты распределяли между собой задачи по планированию, выполнению и проверке, обмениваясь информацией через постоянно пополняемый граф знаний.

По данным Amazon, в записях агентов описан поиск в доступных из интернета шлюзах LLM и конструкторах ИИ-приложений, включая LiteLLM, Dify и Langflow, с целью найти учётные данные поставщиков, а затем проверить ключи и сохранить работающие в общем пуле. В рамках этой тактики агенты атаковали незащищённые установки, открытые интерфейсы управления, стандартные учётные данные администратора, например мастер-ключ LiteLLM, а также уязвимость Langflow CVE-2025-3248.

В других вторжениях, задокументированных ФБР, злоумышленники обнаружили более 110 000 объектов в Active Directory и попытались перемещаться по сети к контроллерам домена, используя украденные данные аутентификации. По сообщению ФБР, защита конечных устройств заблокировала как минимум одну из таких попыток.

Кампании с использованием ARTEX также были направлены против банков и облачных арендаторов

ФБР также приводит примеры атак, связанных с ARTEX, на южнокорейские финансовые учреждения, в результате которых были похищены персональные данные примерно 67 000 человек. В интервью VentureBeat 23 октября Адам Мейерс из CrowdStrike рассказал о злоумышленнике, который использовал ARTEX против шести крупных южнокорейских финансовых компаний.

По словам Мейерса, злоумышленник похитил информацию, а затем спросил Claude, где её можно продать. В опубликованном анализе CrowdStrike также описаны эти вопросы, в том числе запросы о корейских группах в Telegram, где можно было бы продать украденные данные.

Мейерс также сообщил, что CrowdStrike обнаружила признаки того, что агенты проводили обратную разработку мобильных приложений, чтобы извлечь статические ключи.

Microsoft сообщила ещё об одном случае применения ARTEX: злоумышленники использовали скомпрометированные учётные данные приложения ConnectWise Cloud Backup, чтобы попытаться войти более чем в 2 250 клиентских сред Microsoft 365. В некоторых случаях попытки перешли к разведке и изменению учётных данных, однако Microsoft предупредила, что успешная аутентификация не обязательно означает, что данные клиентов были похищены.

Мейерс рассказал VentureBeat, что операторы-люди отправляют «десятки команд в час одной цели», тогда как «максимум, который мы видели у агента, — около 1 500 команд за час». 12 ноября VentureBeat сообщил, что CrowdStrike отказывается от давно используемого показателя «времени горизонтального перемещения», который измеряет, как быстро злоумышленник переходит с одного скомпрометированного компьютера на другой. Компания пока не определилась, чем его заменить.

По данным ФБР, разработчик ARTEX удалил первоначальный репозиторий GitHub в октябре после сообщений о злонамеренном использовании платформы. Однако форки и архивные копии по-прежнему доступны, а к началу ноября исследователи выявили более 1 600 общедоступных консолей ARTEX, сообщает ФБР.

ФБР рекомендует составить перечень приложений, доступных из интернета, проверить, не раскрыты ли секреты, и отслеживать изменения учётных данных и разрешений приложений. При сообщении о предполагаемой активности ARTEX организациям следует наряду с другими подозрительными действиями указывать свидетельства наличия неизвестных прокси-серверов LLM, необычного расхода токенов или списаний за API, а также неожиданных подключений к поставщикам моделей, говорится в рекомендации ФБР.

Бюро также предостерегает от блокировки IP-адресов только на том основании, что они указаны в его рекомендации: облачные адреса могли быть переназначены.

Безопасность

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.