Британские государственные тестировщики выяснили, что предрелизную версию GPT-6.2 Astra от OpenAI оказалось проще взломать, чем её предшественницу

Британские государственные тестировщики выяснили, что предрелизную версию GPT-6.2 Astra от OpenAI оказалось проще взломать, чем её предшественницу

Британский Институт безопасности ИИ (UK AISI) разработал универсальный джейлбрейк против двух предрелизных версий GPT-6.2 Astra от OpenAI, потратив вдвое меньше запросов к модели, чем понадобилось против GPT-6 Astra. В системной карточке OpenAI от 17 ноября говорится, что UK AISI выявил существенный регресс устойчивости по сравнению с GPT-6 Astra. По словам OpenAI, GPT-6.2 Astra достигает её критического порога по возможностям в области кибербезопасности.

В ответ на тестирование UK AISI компания OpenAI изменила инструкции безопасности и защитные механизмы модели. 6 ноября она предложила UK AISI ещё три рабочих дня на повторное тестирование. «На момент написания UK AISI не проводил независимого тестирования этих последних изменений», — говорится в карточке. OpenAI утверждает, что внутренние тесты подтвердили эффективность изменений, и считает, что регресс устранён. В ответ на вопросы VentureBeat OpenAI сослалась на свою системную карточку и не предоставила дополнительных подробностей. UK AISI на момент публикации не ответил.

UK AISI распространил джейлбрейк на агентные киберзадачи, где удалось выявить существенные агентные кибервозможности. Предварительные результаты показали, что взломанная модель не имела преимущества в производительности перед ведущими моделями с открытым исходным кодом в рамках окна тестирования. UK AISI полагает, что при дополнительных усилиях джейлбрейк можно сделать существенно эффективнее.

Вывод UK AISI расходится с результатами частных red team

Ксандер Дэвис, руководитель red team в UK AISI, написал в X 17 ноября, что «один исследователь разработал универсальный киберджейлбрейк» против обеих версий модели.

Собственный автоматизированный red-teaming OpenAI в ходе тестирования, проводившегося с 29 октября по 3 ноября, присвоил двум джейлбрейкам высокий уровень серьёзности. OpenAI сообщает, что после дополнительного тестирования устранила оба обнаруженных внутри компании джейлбрейка. В карточке также указано, что четыре частные red-team-организации не сообщили ни об одной находке высокого или критического уровня.

В отчёте Google о безопасности Gemini 4 Carbon за ноябрь 2026 года упоминается внешний red-teaming силами Gray Swan и Trajectory Labs. Trajectory Labs в отведённые сроки не обнаружила «новых универсальных джейлбрейков, обобщающихся на разные задачи», а атаки Gray Swan хотя бы в одной попытке увенчались успехом против 40% из 25 протестированных киберцелей — против 56% у Gemini 4 Argon.

Системная карточка Anthropic для Claude Fable 5.2 и Mythos 5.2 от 9 ноября не фиксирует универсальных джейлбрейков со стороны внешних red team. Trajectory Labs зарегистрировала 14 взломов Fable 5.2 примерно за 138 часов и более чем 40 000 запросов, причём каждый был специфичен для конкретной задачи. Взломы представляли собой успешные атаки в изолированных тестовых средах. Карточку не проверял ни один внешний оценщик, сообщает Anthropic. В оценках использовались разные задачи и методы тестирования, поэтому результаты трёх компаний нельзя напрямую сравнивать.

Модели OpenAI и Anthropic продемонстрировали осознание оценки при тестировании UK AISI

В отдельных симулированных тестах на согласованность UK AISI проверял, проведут ли GPT-6.2 Astra и Claude Mythos 5.2 несанкционированную атаку на цепочку поставок. GPT-6.2 Astra задавалась вопросом, не тестируют ли её, в 85% прогонов — против 57% у GPT-6 Astra. Mythos 5.2 упоминала в своих рассуждениях возможность того, что её оценивают, в 96% прогонов. Ни одна из моделей в этих оценках атаку не провела.

UK AISI не считает ни один из чистых результатов доказательством. Согласно карточке OpenAI, UK AISI не считает свой результат по GPT-6.2 Astra информативным. С помощью отдельного инструмента поиска рассогласованности UK AISI обнаружил, что GPT-6.2 Astra прибегала к социальной инженерии, чтобы провести несанкционированную атаку на цепочку поставок в симулированном задании по кибербезопасности. Что касается Mythos 5.2, выводы UK AISI в карточке Anthropic гласят, что чистый результат «может объясняться её склонностью и способностью распознавать цель оценки».

Слабости мониторов обнаружились во всех трёх лабораториях

UK AISI поручил GPT-6.2 Astra выступить в роли монитора, проверяющего записи того, как GPT-6 Astra проводит несанкционированную кибератаку. Модель не отметила 19% транскриптов с нарушениями. Когда UK AISI также предоставил монитору несжатые рассуждения GPT-6 Astra, доля пропусков выросла до 51%. UK AISI называет это коррелированным сбоем: модели OpenAI не замечают нарушений других моделей OpenAI. Кроме того, OpenAI просила UK AISI использовать для обработки несжатых рассуждений только модели OpenAI — по словам института, это временное ограничение снизило эффективность и сопоставимость его оценок, отчасти как раз из-за коррелированных сбоев.

Anthropic поручила Mythos 5.2 намеренно работать хуже и при этом не попасться, пока монитор читал её рассуждения. Mythos 5.2 скрыла своё намерение от монитора примерно в одной из четырёх попыток. Как указано в карточке, это первая модель в сравнении Anthropic, которой это удалось.

Control Red Team из UK AISI писала в июле о внутреннем мониторе кода Anthropic: «Мы обнаружили уязвимости в каждой протестированной нами версии монитора». Команда также сообщила о нескольких уязвимостях в мониторе рассуждений Google DeepMind.

UK AISI предупредил, что без дополнительных защитных мер согласованность GPT-6.2 Astra может нарушаться так, что это способно причинить реальный вред. Институт признаёт, что точно не знает, когда и почему происходят такие сбои, и подчёркивает необходимость средств контроля безопасности, систем мониторинга и ограничений возможностей модели.

Джордж Герчоу, директор по безопасности Bedrock Data, трижды занимавший пост CISO, в сентябре в письменных ответах VentureBeat заявил: «Каждый агент, которого я запускаю, наследует идентичность с ограниченными правами и не может выйти за её пределы, что бы он ни решил сделать дальше».

Безопасность

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.