Новая открытая модель Nemotron 3.5 Super VL от NVIDIA после постобучения превосходит Claude Opus 5 и GPT-6.1 Sol в бенчмарках специализированных задач

Новая открытая модель Nemotron 3.5 Super VL от NVIDIA после постобучения превосходит Claude Opus 5 и GPT-6.1 Sol в бенчмарках специализированных задач

Корпоративному агенту, анализирующему кредитное соглашение, может потребоваться извлечь цифры из таблиц, интерпретировать график, проверить связанную веб-страницу и применить внутренние правила компании, прежде чем он сможет дать полезный ответ.

В новейшую линейку Nemotron от NVIDIA входят три модели, предназначенные для решения этих и других задач: большая модель, объединяющая понимание языка и визуальной информации, и две более компактные модели для локальных агентов.

  1. Nemotron 3.5 Super VL — открытая модель со 120 миллиардами параметров. По словам NVIDIA, она умеет работать с PDF-файлами, графиками, таблицами, изображениями и веб-страницами, следовать инструкциям и использовать инструменты.

  2. Nemotron 3.5 Bolt 74B-A9B 24GB предназначена для локального написания кода, исследований и других многоэтапных задач.

  3. Bolt E4B 4GB, выход которой запланирован на 23 октября, предназначена для разговорных агентов и агентов, работающих непосредственно на устройствах.

Для компаний потенциальная ценность заключается в возможности адаптировать модель к своим документам и процедурам, а затем выбрать, где она будет работать. NVIDIA сообщает, что организации могут дообучать Super VL на собственных данных, инструментах и политиках, а затем разворачивать её на инфраструктуре, соответствующей требованиям безопасности и локализации данных. Bolt предлагает более компактный вариант для работы с некоторыми агентными задачами на локальных системах.

Что нового в линейке Nemotron

Super VL — не первая модель NVIDIA для работы с визуальными материалами.

Nemotron Nano 2 VL уже умела анализировать документы и изображения.

Представленная в апреле Nemotron 3 Nano Omni объединяла текст, изображения, аудио и видео в модели с 30 миллиардами параметров. NVIDIA позиционировала её как решение для интеллектуального анализа документов и чтения графических интерфейсов.

Изменилось место визуального понимания в более широкой линейке моделей. В марте NVIDIA выпустила модель Nemotron 3 Super со 120 миллиардами параметров для агентного рассуждения, а затем — более крупную Nemotron 3 Ultra для более сложных задач. Представленная в августе Nemotron 3.5 Lightning предназначена для повторяющихся и высоконагруженных этапов длительных агентных процессов. Super VL переносит возможности понимания документов и изображений в более крупный сегмент Super, а Bolt расширяет варианты локального развертывания моделей семейства.

Такое сочетание может упростить разработку некоторых агентов. Например, системе для рассмотрения страхового требования может понадобиться прочитать отсканированные документы, извлечь структурированные сведения, сверить их с полисом и решить, на что следует обратить внимание человека. Обработка текста и визуальных материалов одной моделью может снизить потребность в передаче информации между отдельными системами чтения. Разработчикам всё равно придётся проверять, правильно ли модель извлекает факты и следует ли нужным правилам.

NVIDIA — не единственный игрок на рынке открытых мультимодальных моделей. Llama 4 от Meta и Gemma 4 от Google также работают с визуальными и текстовыми данными. Особенность Super VL — в том, что она основана на более крупной модели Nemotron, а также в инструментах NVIDIA для её адаптации и развертывания и результатах, о которых сообщают партнёры, дообучающие её для специализированных задач.

О каких результатах сообщают партнёры после настройки моделей

NVIDIA сообщает, что десятки организаций дообучают Super VL для решения собственных задач.

В анонсе компании перечислены проекты Scale AI по созданию финансового агента для работы с кредитами поставщиков Skydance и агента EY для проверки сделок слияния и поглощения; AfterQuery — для анализа кредитных соглашений Hebbia; AI21 и Alice — для задач кибербезопасности; Mercor — для агентов-программистов. Среди других компаний, настраивающих модель, — Ramp, Dream, Lila Sciences и R1.

Среди платформенных компаний, интегрирующих её, — Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce и Synopsys.

График NVIDIA иллюстрирует, почему эти партнёры могут предпочесть настройку модели простому развертыванию базовой версии. На нём представлены результаты пяти отдельных оценок: интеллектуальный анализ документов, устойчивость к атакам, извлечение данных из финансовых чеков, научные эксперименты и обработка медицинских страховых требований.

Светло-зелёная часть каждого столбца соответствует базовой версии Super VL; тёмно-зелёная показывает заявленный прирост после дообучения. Улучшение по пяти задачам составляет от 9 до 44%.

Во всех приведённых сравнениях получившаяся специализированная модель набирает больше баллов, чем указанная модель Claude или GPT, проверенная для соответствующей задачи:

  • Наибольший прирост относительно базовой модели показан для медицинских страховых требований: согласно графику, после дообучения точность выросла примерно с 28 до 72%, тогда как Claude Opus 5 набрала около 38% в этой оценке.

  • Устойчивость к атакам выросла примерно с 35 до 76% против примерно 66% у GPT-6.1 Sol.

Речь идёт о разных настроенных версиях модели, проверенных на разных специализированных задачах, а не о том, что базовая Super VL в целом превосходит эти модели.

NVIDIA не предоставила к графику описания задач, размеров выборок или протокола тестирования, поэтому потенциальным покупателям стоит проверить тот же подход на собственных задачах.

Высокая скорость генерации при определённом уровне качества

NVIDIA также утверждает, что Super VL работает до пяти раз быстрее сопоставимой открытой модели. На графике скорости сопоставлены индекс интеллекта Artificial Analysis и количество генерируемых токенов в секунду при 100 000 входных токенов.

Super VL показана на уровне около 625 выходных токенов в секунду при оценке индекса примерно 26. Стрелка, обозначающая пятикратное сравнение, начинается у Inkling Small — около 125 токенов в секунду при схожей оценке индекса.

NVIDIA сообщает, что Artificial Analysis измерила результат Super VL в 625 токенов в секунду на четырёх графических процессорах Blackwell B200.

В приведённом сравнении Super VL демонстрирует необычно высокую скорость при такой оценке. Однако это не модель с наивысшим общим результатом: на сопроводительном графике Artificial Analysis её оценка по сводному индексу составляет 26, что ниже, чем у ряда других открытых моделей, включая GLM-5.3-Flash с результатом 42 и Qwen3.8-Flash-Next с результатом 40.

Индекс объединяет результаты 10 оценок в таких областях, как профессиональная работа, программирование, наука и рассуждение. Artificial Analysis оценивает обработку изображений отдельно, поэтому один лишь сводный балл не позволяет судить обо всех возможностях Super VL в чтении документов.

Скорость генерации важна, когда агент многократно обращается к модели в ходе длительной задачи, но она не равна времени, необходимому для её выполнения. На итоговое время влияют чтение входных данных, вызовы внешних инструментов, проверка результатов и исправление ошибок. График показывает сравнение скорости генерации в заявленных условиях тестирования, но не свидетельствует о пятикратном сокращении времени выполнения всего процесса.

Bolt позволяет запускать агентные задачи на менее мощных системах

У Bolt 74B-A9B в общей сложности 74 миллиарда параметров, но одновременно активируются 9 миллиардов. По словам NVIDIA, нативное 2-битное сжатие позволяет разместить модель в памяти объёмом 24 ГБ и запускать её одновременно с другими приложениями на системах RTX Spark и DGX Spark.

Модель предназначена для таких задач, как поиск информации в интернете, написание и отладка кода с помощью локальных агентных инструментов, без отправки этих задач в облачную модель.

NVIDIA называет Bolt лучшей открытой моделью своего класса в рейтинге PinchBench и второй среди открытых моделей в BrowseComp, однако в анонсе не приводит баллы и не объясняет, какие модели входят в категорию сравнения.

Модель доступна на Hugging Face и поддерживает llama.cpp, Ollama, LM Studio и vLLM. NVIDIA также указывает среди совместимых систем ПК с GeForce RTX, DGX Station и рабочие станции RTX PRO.

Bolt E4B уменьшает требования к локальному запуску до 4 ГБ и предназначена для голосовых помощников, интерактивных персонажей и встроенных интерфейсов. По словам NVIDIA, она поддерживает многошаговые диалоги и может использовать инструменты, учитывая текущее состояние приложения. После выхода 23 октября её можно будет запускать на GeForce RTX, Jetson и RTX/DGX Spark.

Где разработчики могут получить модели и сколько стоит их использование в производстве

Открытые веса Super VL доступны на Hugging Face. Среди других способов получить доступ к модели на старте NVIDIA называет OpenRouter, ModelScope и NVIDIA NIM. Bolt 74B-A9B доступна на Hugging Face.

NVIDIA сообщает, что модели распространяются по лицензии OpenMDW, которая разрешает коммерческое использование, дообучение и распространение. Компания также выпускает рецепты обучения и наборы данных, а ресурсы для настройки предоставляет через NeMo и техническое руководство по архитектуре.

Разработчики могут бесплатно пользоваться размещённым на серверах NVIDIA API с ограничением частоты запросов для разработки. Партнёры NVIDIA предлагают размещённые API по ценам, установленным каждым поставщиком, в том числе через OpenRouter.

Организации могут загрузить микросервисы NIM из каталога NGC компании NVIDIA. Для коммерческого использования NVIDIA указывает стоимость лицензии NVIDIA AI Enterprise — 4 500 долларов за графический процессор в год. Это цена программной лицензии, а не общие расходы на графические процессоры, хостинг и эксплуатацию, необходимые для запуска Super VL.

NVIDIA сообщает, что Super VL оптимизирована для систем Blackwell и Hopper, включая DGX Spark, DGX Station и графические процессоры RTX PRO 6000 Blackwell, а также может работать на графических процессорах поколения Ampere.

По данным NVIDIA, общий объём обучения составляет около 26 триллионов токенов на этапах предварительного и дополнительного предварительного обучения, 3,8 миллиона примеров для дообучения и обучение с подкреплением примерно в 100 открытых средах. Компания также планирует выпустить наборы данных по использованию инструментов, финансам, длинному контексту, безопасности и пониманию визуально-языковой информации.

Запуск состоялся после соглашения NVIDIA о приобретении Hugging Face — крупной платформы распространения открытых моделей. Сделка примерно на 12,93 миллиарда долларов ещё не закрыта: NVIDIA рассчитывает завершить её в первой половине 2027 года при условии получения разрешений регулирующих органов и выполнения других требований. Компания обязалась сохранить открытый доступ к Hugging Face для других разработчиков моделей и производителей чипов.

Для корпоративных разработчиков повод попробовать Super VL вполне конкретен: проверить, достаточно ли точно модель, которую можно адаптировать и развернуть под собственным контролем, читает их документы и соблюдает их процедуры, чтобы оправдать затраты. Bolt позволяет отдельно проверить задачи, которые компании хотят оставить локальными. NVIDIA предоставляет модели, способы доступа к ним и цену программного обеспечения для коммерческого использования, чтобы начать такую оценку; примеры партнёров и график скорости показывают, что стоит изучить, а не гарантируют результаты любого развертывания.

Технологии

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.