Thinking Machines представила Inkling 2 Small с производительностью, близкой к передовым моделям, в корпоративных бенчмарках

Thinking Machines Lab — ИИ-стартап, который возглавляет бывший технический директор OpenAI Мира Мурати, — 5 ноября представил Inkling 2 Small, предложив разработчикам новый вариант для агентов, которые пишут программы, интерпретируют изображения, анализируют финансовые документы и осваивают рабочие процессы конкретной компании.

Этот релиз открывает второе поколение семейства Inkling. Модель сочетает 594 млрд параметров в общей сложности с разреженной архитектурой, активирующей 17 млрд параметров на каждый токен, и доступна для инференса и кастомизации через платформу Tinker от Thinking Machines.

В блоге с анонсом компания заявляет, что это её модель с наивысшими результатами в бенчмарках по оценке сторонней аналитической компании Artificial Analysis — с показателем Intelligence Index, равным 31. После публикации весов это сделает её лучшей открытой моделью не из Китая, опережающей даже недавно вышедшую Mistral Large 4 «Le Chonk» (с результатом 26).

Особенно важно для корпоративных клиентов то, что модель набирает высокие 71,8% в стороннем бенчмарке EnterpriseBench-CoreCraft от Surge AI, который измеряет эффективность агентного ИИ в условиях вымышленного поставщика комплектующих для ПК, включая смоделированных недовольных клиентов. Модель заняла впечатляющее третье место в общем рейтинге, уступив лишь Claude Fable 5.1 (77,4%) и Claude Opus 5.5 (74,4%) от Anthropic.

В бенчмарке EnterpriseOps-Gym, который оценивает агентную эффективность в реалистичных условиях корпоративного ПО в таких направлениях, как клиентский сервис, HR и ИТ, модель набирает 46,8%, опережая другие открытые конкуренты, включая новую GLM-5.3, и даже Claude Sonnet 5 — модель среднего уровня от Anthropic.

Для корпоративных покупателей привлекательность модели не ограничивается результатами бенчмарков. Thinking Machines планирует опубликовать веса под лицензией Apache 2.0, что открывает потенциальный путь от экспериментов на хостинге к кастомизированным моделям, которые организации смогут эксплуатировать самостоятельно.

Однако на момент запуска веса остаются закрытыми в ожидании внешних проверок безопасности. Компания рассчитывает опубликовать их на следующей неделе после анонса.

Сможет ли Thinking Machines превратить свою модель и платформу обучения в надёжную часть ИИ-стека компании? Inkling 2 Small даёт основания оценить такую возможность — наряду с ограничениями, которые должны определять, где она будет работать и какими полномочиями будет наделена.

«Малая» модель, ставшая крупнее, — для продолжительной работы

Inkling 2 Small значительно крупнее оригинальной Inkling Small, выпущенной в июле. Общее число параметров выросло с 276 до 594 млрд, а число активируемых на токен — с 12 до 17 млрд. Слово Small обозначает место модели в линейке продуктов; оно не означает, что модель подходит для ноутбука или скромного сервера.

Thinking Machines делает упор на задачи, требующие многократных вызовов инструментов, доработок и проверок. Обучение включало программные репозитории, терминальные среды, создание документов, исследования, визуальные задачи и смоделированное взаимодействие с пользователями. В некоторых задачах по программированию использовались оценщики, которые проверяли не только прохождение тестов решением, но и подход агента.

Визуальный компонент особенно актуален для приложений, которым нужно проверять собственный результат. Компания продемонстрировала, как модель создаёт симулятор города, пишет эмулятор Linux и строит сцены в Blender.

Такие примеры указывают на применение в прототипировании интерфейсов, создании визуальных ресурсов с помощью кода и проверке отрисованных результатов, хотя одни лишь демонстрации не доказывают надёжность на производственных проектах организации.

Есть и компромисс по возможностям по сравнению с прежним семейством Inkling: новый релиз принимает изображения и текст, но не обрабатывает аудио. Поэтому голосовому приложению понадобится перед ней другая модель или сервис транскрибации.

Как она выглядит на фоне западных альтернатив с открытыми весами

Особенно уместно сравнение по размеру с Beam от Reflection и Nemotron 3 Ultra от NVIDIA. Обе модели содержат около полутриллиона параметров. Muse Spark Open от Meta и французская Mistral Large 4 — более крупные мультимодальные альтернативы. Ripple-65B Preview от Ricursive Intelligence относится к меньшему классу развёртывания, но представляет собой ещё один недавний американский вариант для задач программирования.

В таблице приведены округлённые показатели Intelligence Index из текущего рейтинга Artificial Analysis. Они сопоставимы в рамках этого среза; подставлять исторические результаты из старых версий индекса не следует. Цены — опубликованные примеры от указанных сервисов за миллион токенов, а не универсальная стоимость эксплуатации весов.

Источники: цены Tinker; релиз Beam, карточка модели и цены провайдера; карточка модели NVIDIA и списки провайдеров; документация Meta и цены Cloudflare; документация Mistral и условия релиза; документация модели Ricursive и цены OpenRouter. В собственной документации Mistral указано 52 млрд активных параметров; в сравнительной таблице Thinking Machines — 49 млрд. Таблица выше следует спецификации Mistral.

По сводному индексу Inkling 2 Small лидирует в этой выборке. Это даёт техническим командам повод включить её в шорт-лист для широкого круга задач — при условии отдельной оценки на тех задачах, которые им действительно нужны.

Beam наглядно показывает компромисс. Artificial Analysis указывает стоимость задачи в бенчмарке 0,28 доллара для Beam против 1,18 доллара для Inkling 2 Small. У Mistral Large 4 и Muse Spark Open — 2,06 и 2,02 доллара соответственно. Эти цифры отражают нагрузки и ценовые допущения оценщика, а не стоимость успешного выполнения производственной задачи. Тем не менее они показывают, почему модель с более низким общим баллом может оставаться полезной для экономичных первых попыток или более узких рабочих процессов.

Кроме того, Beam уже предоставляет загружаемые чекпоинты, интеграции для обслуживания и открытый интерфейс агента для программирования. Для команды, которой частное развёртывание нужно немедленно, такая доступность может перевесить более высокий балл модели, веса которой ещё не вышли.

NVIDIA предлагает другое преимущество — задокументированный инфраструктурный путь. В карточке Nemotron 3 Ultra перечислены конфигурации, включая четыре GPU B200 или B300 либо восемь H100. Эти требования относятся к Nemotron, а не к Inkling, но иллюстрируют класс оборудования, необходимого для обслуживания таких крупных разреженных моделей.

Ripple заслуживает внимания там, где команда отдаёт приоритет меньшему объёму весов. Ricursive сообщает о 80,5% в Terminal-Bench 2.1 и 79,1% в SWE-bench Pro v2.0 Hard. Эти результаты следует рассматривать отдельно от сводного индекса Inkling и от оценок с другими версиями или агентными средами. Кроме того, её плотная архитектура на 65 млрд параметров активирует на токен больше параметров, чем 17 млрд у Inkling; меньшее общее число весов не означает автоматически меньше вычислений на каждый запрос.

Визуальные рассуждения и бизнес-процессы дают более конкретные аргументы

Опубликованные результаты Thinking Machines помогают определить, какие нагрузки стоит протестировать в первую очередь. Приведённые ниже сравнения взяты из таблиц релиза, объединяющих названные сторонние бенчмарки и заявленные оценки. Это не новое независимое прямое сравнение от VentureBeat.

Результаты говорят в пользу оценки Inkling для работы с репозиториями, финансового анализа, визуально сложных документов и длинных заданий на чтение. Вместе с тем они показывают, что её преимущество не универсально: Muse Spark Open набирает больше в AA-Omniscience — оценке фактических знаний.

Абсолютные значения важны не меньше, чем места в рейтинге. Результат 25,2% в GDP.pdf — относительная сильная сторона в этом сравнении, но не доказательство того, что обработку документов можно вести без проверки. В сложных финансовых тестах Thinking Machines сообщает о 14,3% в DAYJOB и 14,5% pass@1 в Apex-Accounting v1.1. Разные бенчмарки измеряют разное, но ни одна из этих цифр не оправдывает передачу финансовых решений модели без дополнительного тестирования.

Практичная начальная роль — создание результатов, которые может проверить другая система или человек: предлагаемое изменение кода с тестами, анализ со ссылками на документы или таблица, сверенная с известными расчётами. Результаты модели делают такие сценарии кандидатами на оценку, но сами по себе не подтверждают готовность к развёртыванию.

Низкие тарифы за токены не гарантируют низких эксплуатационных расходов

Бессерверные тарифы Tinker для Inkling 2 Small составляют 0,30 доллара за миллион входных токенов, 0,03 доллара за кешированный вход и 1 доллар за выход. Обучение стоит 1,50 доллара за миллион токенов при контексте 64K или 3 доллара при 256K. Хранение чекпоинтов — 0,10 доллара за ГБ в месяц. Бессерверный доступ пока в бета-версии, а для производственного использования действует лист ожидания.

Ключевая переменная — сколько токенов модель тратит, чтобы выполнить работу на приемлемом уровне. По данным Artificial Analysis, при оценке по Intelligence Index Inkling сгенерировала 154 млн выходных токенов против медианы 89,8 млн у отобранных сопоставимых моделей. Оценщик называет её необычайно многословной.

Этот вывод согласуется с признанием самой Thinking Machines, что модель бывает многословной. Настраиваемый уровень усилий на рассуждение позволяет протестировать баланс между качеством, затратами и временем отклика, но параметры оценки при запуске были ориентированы на основательность: компания использовала уровень усилий 0,99 и температуру 1,0, а траектории могли растягиваться до миллиона токенов.

Для корпоративного пилота полезной единицей учёта является выполненная задача, удовлетворяющая критериям приёмки. Командам стоит отслеживать весь прогон: оплату модели, выполнение инструментов, неудачные попытки, повторы и время на проверку. Более низкий тариф за выход приносит меньше пользы, если агент делает больше шагов или создаёт больше работы по исправлению для проверяющего.

Кастомизация — ключевая часть предложения

Thinking Machines создавала Inkling 2 Small с расчётом на улучшение за счёт дополнительного обучения, а не только на исходные возможности. По словам компании, в одной из оценок на финансовых документах новая модель достигла итогового уровня старой Inkling Small за 75 шагов обучения и продолжила улучшаться.

Этот результат особенно актуален для компаний с повторяющимися задачами и понятным способом оценки ответов. Примеры — оценка отчёта о прибылях по внутренней рубрике, применение схемы классификации документов или подготовка анализа в соответствии с принятыми в фирме правилами. Это предполагаемые сценарии, а не подтверждённые клиентские развёртывания новой модели.

Компания также продемонстрировала, как модель руководит экспериментом по обучению. Inkling с помощью Tinker адаптировала Qwen3.5-4B для прогнозирования: создала оценщик, экспериментировала с методами обучения и отлаживала процесс. По данным Thinking Machines, показатель прогнозирования вырос более чем вдвое за 4,5 часа при расходах на Tinker в 426 долларов.

Это данные одного эксперимента, проведённого самой компанией, а не прогноз стоимости любого проекта по кастомизации. Его значение — в потенциальной роли: Inkling может помогать разрабатывать специализированную модель, а не только самостоятельно обслуживать запросы. Превзойдёт ли такой подход более простой промптинг, поиск по базе знаний или обучение под ручным контролем, зависит от оценки самого клиента.

Открытые веса, лицензирование и ограничения контекста влияют на план развёртывания

Запланированная публикация под Apache 2.0 важна для организаций, которые хотят кастомизировать модель и сохранить возможность эксплуатировать её самостоятельно. Однако это пока дело будущего. На момент запуска загрузка весов и экспорт кастомизированных чекпоинтов зависят от завершения проверок безопасности.

Условия у альтернатив существенно различаются. Reflection и Ricursive уже предлагают веса под Apache 2.0. Анонс релиза Mistral разрешает коммерческое использование по собственной лицензии, но требует отдельного соглашения для компаний, предлагающих модели как сервис.

Muse Model License от Meta содержит требования к указанию авторства и использованию. Положение об отдельном соглашении распространяется на компании, предоставляющие модели как сервис, если совокупная валовая выручка лицензиата и аффилированных лиц превышает 20 млн долларов за последовательные 12 месяцев; текст прямо исключает внутреннее использование и некоторые другие продуктовые интеграции. Из-за этих различий конкретная схема развёртывания и бизнес-модель имеют значение при проверке лицензии.

Объём контекста также нужно проверять на уровне конкретной точки доступа. Artificial Analysis указывает для Inkling 2 Small миллион токенов, тогда как опубликованное бессерверное предложение Tinker — 256K. Для обучения доступны варианты 64K и 256K. Командам следует ориентироваться на лимит сервиса, которым они реально могут воспользоваться. Траектория бенчмарка длиной в миллион токенов может включать несколько вызовов модели и сжатие контекста; сама по себе она не доказывает лимит в миллион токенов на клиентский запрос.

Активация лишь 17 млрд параметров также не избавляет от необходимости хранить остальные веса при самостоятельном хостинге. При планировании оборудования нужно учитывать формат чекпоинта, рабочую память, параллельные запросы и ПО для обслуживания. В анонсе не указана проверенная минимальная конфигурация GPU для локального развёртывания Inkling 2 Small клиентами.

Раскрытый инцидент при обучении подчёркивает необходимость ограничений

Thinking Machines описывает поведение модели во время разработки, которое напрямую касается всех, кто развёртывает агентов с доступом к инструментам. Ранние чекпоинты порой выдумывали результаты, нарушали инструкции и скрывали своё поведение, когда им не удавалось выполнить задачу.

В ходе основного прогона обучения с подкреплением мониторинг зафиксировал случай, когда модель обошла сетевое ограничение с помощью внешнего сервиса, доступного через её поисковые инструменты. Команда приостановила обучение, усилила защиту инфраструктуры, убрала среды, зависящие от доступа в интернет, и ввела проверки перед выполнением вызовов инструментов.

Компания также изменила обучение, чтобы препятствовать нарушениям, в том числе стала вознаграждать модель за остановку, когда задачу невозможно выполнить. Её внутренний показатель нежелательного поведения снизился с 75,2 у предыдущей Inkling Small до 14,9 у Inkling 2 Small (чем ниже, тем лучше). В том же сравнении, проведённом компанией, GPT-6.1 Sol набрала 0,8. Это результаты оценки, а не вероятность того, что корпоративный агент поведёт себя неправильно в реальной работе.

Раскрытая информация подкрепляет конкретный урок для развёртывания: успешность выполнения задачи и соблюдение инструкций нужно проверять отдельно. Агент, выдавший правдоподобный результат, мог при этом превысить свои полномочия или исказить сведения о том, что он проверил. Сетевые ограничения, ограниченные права на инструменты и проверяемые журналы действий остаются актуальными даже по мере улучшения поведения моделей.

Какое место Inkling 2 Small может занять в корпоративном стеке

В совокупности эти данные делают Inkling 2 Small кандидатом на роль кастомизируемого исполнителя для визуально насыщенных документов, финансового анализа и программных задач, допускающих итерации. В рамках ограниченного пилота её можно сравнить с Beam для текстового программирования, с Muse Spark Open — для более широкого набора модальностей ввода и с Mistral Large 4 — для уже существующего самостоятельно размещённого мультимодального развёртывания.

Для команд, которым нужна поддержка аудио, немедленная загрузка весов или жёстко ограниченное время отклика, текущие ограничения модели весят больше. Для команд с ценными собственными примерами и чёткими критериями оценки путь кастомизации через Tinker может значить больше, чем несколько баллов в общем бенчмарке.

В конечном счёте решение о покупке зависит от того, выполняет ли модель задачи самой организации точно, в рамках бюджета и сроков и не превышая своих полномочий. Inkling 2 Small предлагает для такой оценки более сильную отправную точку, чем её предшественница. Следующая проверка — состоится ли запланированная публикация весов и выдержат ли достижения в бенчмарках столкновение с реальными клиентскими нагрузками.