Amazon заявляет, что ИИ-агенты злоумышленников обнаружили и использовали уязвимость нулевого дня за 11 минут, однако исправленная версия пока недоступна

Amazon заявляет, что ИИ-агенты злоумышленников обнаружили и использовали уязвимость нулевого дня за 11 минут, однако исправленная версия пока недоступна

В пятницу Amazon сообщила, что ИИ-агенты злоумышленников самостоятельно обнаружили уязвимость нулевого дня в MONAI Label — приложении с открытым исходным кодом для медицинской визуализации на базе ИИ — и примерно за 11 минут воспользовались ею, чтобы записывать файлы за пределами предусмотренного каталога хранения. Исправление уже внесено в исходный код, но обновлённая версия пока не выпущена.

Amazon с высокой степенью уверенности считает, что это была уязвимость нулевого дня: на момент обнаружения компания не нашла ни исправлений, ни сообщений о проблеме, ни рекомендаций по безопасности, ни упоминаний в базах данных уязвимостей.

10 сентября Amazon обнаружила сервер Cairn злоумышленников, работавший без аутентификации, и прочитала запросы оператора. Cairn — это фреймворк с открытым исходным кодом для координации ИИ-агентов, выполняющих тестирование безопасности. Кампания продолжалась около 48 часов, начиная с 8 сентября, и была направлена против университетов Восточной Азии за пределами материкового Китая. Amazon со средней степенью уверенности полагает, что за ней стоят связанные с Китаем лица.

Оператор поставил агентам одну цель: «получить доступ к командной оболочке». В MONAI Label агенты обнаружили, что могут манипулировать функцией загрузки файлов и размещать их за пределами предусмотренной для приложения области хранения. Во время следующего сеанса они воспользовались той же уязвимостью, чтобы запустить вредоносный код и получить полный контроль над сервером.

Исправление для MONAI Label ожидает выпуска с 19 октября

В среду сопровождающие MONAI Label опубликовали критически важное предупреждение о безопасности на GitHub. В нём не указана исправленная версия для версии 0.8.5 и более ранних, а также говорится, что исправление «войдёт в следующий выпуск MONAI Label». Исправление внесли в основную ветку проекта 19 октября в рамках запроса на слияние № 1915. Последняя версия MONAI Label в Python Package Index (PyPI) по-прежнему — 0.8.5, опубликованная 25 ноября 2024 года.

Согласно предупреждению, аутентификация по умолчанию отключена, а значит, уязвимость может использовать любой, кто имеет доступ к серверу. Даже при включённой аутентификации ею могут воспользоваться пользователи с ролью ANNOTATOR.

Что сейчас могут сделать команды, использующие MONAI Label

Пока исправленная версия не выпущена, администраторам следует выявить серверы MONAI Label с версией 0.8.5 или более ранней. В предупреждении о безопасности рекомендуются три временные меры:

  1. Включить аутентификацию и предоставить роль ANNOTATOR только проверенным пользователям.

  2. Не подключать серверы MONAI Label к недоверенным сетям.

  3. Запускать программу без прав администратора и ограничить её возможность записывать файлы за пределами назначенного каталога хранения.

Когда выйдет версия с исправлением, администраторам следует обновить программу.

Поскольку Amazon задокументировала эксплуатацию уязвимости злоумышленниками, администраторам также следует проверить, не были ли их серверы уже скомпрометированы, например, поискать неожиданные изменения файлов приложения. Включение аутентификации сейчас не устранит последствия уже произошедшего вторжения.

Безопасность

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.