Baseten переориентируется на обучение ИИ-моделей при оценке в $2,15 млрд

Baseten, компания в сфере инфраструктуры искусственного интеллекта, недавно оцененная в 2,15 миллиарда долларов, осуществляет свой самый масштабный поворот в стратегии продуктов: полноценный выход на рынок обучения моделей, который может изменить то, как предприятия избавляются от зависимости от OpenAI и других провайдеров закрытого ИИ.

Базирующаяся в Сан-Франциско компания объявила в четверг о всеобщей доступности платформы Baseten Training. Эта инфраструктурная платформа призвана помочь компаниям дообучать (fine-tune) открытые ИИ-модели без операционных сложностей, связанных с управлением кластерами графических процессоров, многоузловой оркестрацией или планированием облачных мощностей. Этот шаг представляет собой выверенное расширение за рамки ключевого бизнеса Baseten в области инференса (вывода), обусловленное, по словам технического директора Амира Хагихата (Amir Haghighat), неустанным спросом со стороны клиентов и стратегической необходимостью охватить весь жизненный цикл развертывания ИИ.

«У нас была постоянная аудитория клиентов, которые снова и снова приходили к нам и говорили: «Слушайте, я ненавижу эту проблему»», — рассказал Хагихат в интервью. «Один из них сказал мне: «Послушай, я купил кучу H100 у облачного провайдера. Мне приходится подключаться по SSH в пятницу, запускать задачу дообучения, а затем проверять в понедельник, сработала ли она. Иногда я понимаю, что она просто не работала все это время»».

Запуск происходит в критический момент перелома в корпоративном внедрении ИИ. Поскольку открытые модели от Meta, Alibaba и других все успешнее конкурируют с проприетарными системами по производительности, компании сталкиваются с растущим давлением с целью снижения зависимости от дорогостоящих вызовов API к таким сервисам, как GPT-5 от OpenAI или Claude от Anthropic. Но путь от готовой открытой модели до готового к производству кастомного ИИ остается тернистым и требует специализированных знаний в области MLOps (операций машинного обучения), управления инфраструктурой и оптимизации производительности.

Ответ Baseten: предоставить инфраструктурную основу, позволяя при этом компаниям сохранять полный контроль над своим кодом обучения, данными и весами моделей. Это намеренно низкоуровневый подход, рожденный на основе с трудом усвоенных уроков.

Как неудачный продукт подсказал Baseten, что на самом деле нужно инфраструктуре обучения ИИ

Это не первая попытка Baseten выйти на рынок обучения. Предыдущая попытка компании, продукт под названием Blueprints, запущенный примерно два с половиной года назад, потерпел сокрушительный провал — неудачу, которую Хагихат теперь воспринимает как полезный опыт.

«Мы создали уровень абстракции немного слишком высоко, — пояснил он. — Мы пытались создать волшебный опыт, когда пользователь приходит, программно выбирает базовую модель, выбирает свои данные и некоторые гиперпараметры, и в результате волшебным образом получается модель».

В чем проблема? У пользователей не было интуиции для правильного выбора базовых моделей, качества данных или гиперпараметров. Когда их модели показывали плохие результаты, они обвиняли продукт. Baseten оказалась в консалтинговом бизнесе, а не в инфраструктурном, помогая клиентам отлаживать всё: от дедупликации наборов данных до выбора моделей.

«Мы стали консультантами, — сказал Хагихат. — А ведь мы планировали совсем другое».

Baseten закрыла проект Blueprints и полностью переключилась на инференс, пообещав «заслужить право» на новое расширение. Этот момент настал в начале текущего года под влиянием двух рыночных реалий: подавляющее большинство доходов Baseten от инференса приходится на кастомные модели, которые клиенты обучают в других местах, а конкурирующие платформы для обучения использовали ограничительные условия обслуживания, чтобы привязать клиентов к своим продуктам инференса.

«Несколько компаний, создававших продукты для дообучения, прописали в своих условиях обслуживания, что вы как клиент не можете перенести весы дообученной модели куда-то еще, — сказал Хагихат. — С их точки зрения мне это понятно — однако я по-прежнему считаю, что крупную компанию невозможно построить исключительно на обучении или дообучении. Самая липкая часть — это инференс, ценная часть, где создается реальная ценность — это инференс, и в конечном счете доход приносит именно инференс».

Baseten выбрала противоположный подход: клиенты владеют своими весами и могут скачивать их в любой момент. Расчет делается на то, что превосходная производительность инференса все равно удержит их на платформе.

Мультиоблачная оркестрация GPU и планирование задач быстрее минуты выделяют Baseten на фоне гиперскейлеров

Новый продукт Baseten Training работает на том уровне, который Хагихат называет «инфраструктурным слоем» — он более низкоуровневый, чем неудачный эксперимент Blueprints, но включает в себя продуманный набор инструментов для обеспечения надежности, наблюдаемости (observability) и интеграции со стэком инференса Baseten.

К числу ключевых технических возможностей относятся поддержка многоузлового обучения (multi-node training) на кластерах из NVIDIA H100 или B200 GPU, автоматическое сохранение чекпоинтов для защиты от сбоев узлов, планирование задач менее чем за минуту и интеграция с собственной системой Multi-Cloud Management (MCM) от Baseten. Последний компонент критически важен: MCM позволяет Baseten динамически выделять мощности GPU у различных облачных провайдеров и в разных регионах, перекладывая экономию средств на клиентов и избегая ограничений по емкости и долгосрочных контрактов, типичных для сделок с гиперскейлерами.

«Работая с гиперскейлерами, вы не можете сказать: «Эй, дайте мне три или четыре узла B200, пока выполняется моя задача, а потом заберите их обратно и не берите с меня за это деньги», — отметил Хагихат. — Они ответят: «Нет, вам нужно подписать трехлетний контракт». Мы так не делаем».

Подход Baseten отражает более широкие тенденции в облачной инфраструктуре, где уровни абстракции все чаще позволяют рабочим нагрузкам плавно перемещаться между провайдерами. Когда несколько недель назад у AWS произошел крупный сбой, сервисы инференса Baseten продолжили работу благодаря автоматической перемаршрутизации трафика к другим облачным провайдерам — теперь эта возможность распространена и на рабочие нагрузки по обучению.

Техническая дифференциация также распространяется на инструменты наблюдаемости Baseten, которые предоставляют метрики для каждого графического процессора в многоузловых задачах, детализированное отслеживание контрольных точек (чекпоинтов) и обновленный пользовательский интерфейс, отображающий события на уровне инфраструктуры. Компания также представила «ML Cookbook» — сборник рецептов обучения с открытым исходным кодом для популярных моделей, таких как Gemma, GPT OSS и Qwen, призванный помочь пользователям быстрее достигать «успеха в обучении».

Первые пользователи сообщают об экономии средств на 84% и улучшении задержки на 50% благодаря кастомным моделям

Два первых клиента отлично иллюстрируют рынок, на который ориентируется Baseten: это ИИ-компании, создающие специализированные вертикальные решения, требующие кастомных моделей.

Oxen AI, платформа, специализирующаяся на управлении наборами данных и дообучении моделей, служит примером партнерской модели, которую видит перед собой Baseten. Генеральный директор Грег Шоунингер (Greg Schoeninger) сформулировал общую стратегическую логику, заявив изданию VentureBeat: «Всякий раз, когда я видел платформу, пытающуюся совместить железо и софт, она обычно терпела неудачу в чем-то одном. Именно поэтому партнерство с Baseten для управления инфраструктурой было очевидным выбором».

Oxen построила свой клиентский опыт полностью поверх инфраструктуры Baseten, используя Baseten CLI для программной оркестрации задач обучения. Система автоматически выделяет и высвобождает графические процессоры, полностью скрывая интерфейс Baseten за собственным интерфейсом Oxen. Для одного из клиентов Oxen, компании AlliumAI — стартапа, упорядочивающего хаотичные данные розничной торговли — интеграция обеспечила 84% экономии средств по сравнению с предыдущими подходами, снизив общие затраты на инференс с $46 800 до $7 530.

«Обучение кастомных LoRA всегда было одним из самых эффективных способов использования открытых моделей, но оно часто сопровождалось головной болью с инфраструктурой, — сказал Даниэль Демиллар (Daniel Demillard), генеральный директор AlliumAI. — С Oxen и Baseten эта сложность исчезает. Мы можем обучать и развертывать модели в огромных масштабах, не беспокоясь о CUDA, выборе графического процессора или отключении серверов после обучения».

Parsed, еще один ранний клиент, решает другую проблему: помогает предприятиям снизить зависимость от OpenAI путем создания специализированных моделей, превосходящих универсальные LLM в специфических для предметной области задачах. Компания работает в критически важных секторах, таких как здравоохранение, финансы и юридические услуги, где производительность и надежность моделей не подлежат обсуждению.

«До перехода на Baseten мы сталкивались с повторяющейся и ухудшающейся производительностью наших дообученных моделей из-за багов у нашего предыдущего провайдера обучения, — сказал Чарльз О’Нил (Charles O’Neill), соучредитель и главный научный сотрудник Parsed. — Вдобавок к этому мы испытывали трудности с легкой загрузкой и сохранением чекпоинтов весов после завершения обучения».

С помощью Baseten компания Parsed добилась снижения сквозной задержки (latency) на 50% для сценариев использования транскрипции, развернула соответствующие требованиям HIPAA европейские среды для тестирования в течение 48 часов и запустила более 500 задач обучения. Компания также задействовала модифицированный фреймворк инференса vLLM от Baseten и метод спекулятивного декодирования (speculative decoding) — технологию, генерирующую черновые токены для ускорения вывода языковых моделей, — чтобы сократить задержку для кастомных моделей в два раза.

«Быстрые модели имеют значение, — заявил О’Нил. — Но быстрые модели, которые со временем становятся еще лучше, имеют куда больший вес. Модель, которая работает в два раза быстрее, но остается статической, проигрывает той, которая чуть медленнее, но улучшается на 10% ежемесячно. Baseten дает нам и то, и другое: преимущество в производительности сегодня и инфраструктуру для непрерывного совершенствования».

Почему обучение и инференс связаны теснее, чем кажется индустрии

Пример Parsed иллюстрирует более глубокое стратегическое обоснование расширения Baseten в область обучения: грань между обучением и инференсом гораздо более размыта, чем принято считать.

Команда Baseten по производительности моделей активно использует обучающую платформу для создания «черновых моделей» (draft models) для спекулятивного декодирования — передовой техники, способной значительно ускорить инференс. Недавно компания объявила о достижении показателя более 650 токенов в секунду на модели OpenAI GPT OSS 120B (что на 60% выше показателей на момент запуска) с использованием спекулятивного декодирования EAGLE-3, которое требует обучения специализированных небольших моделей для работы в паре с более крупными целевыми моделями.

«В конечном счете инференс и обучение связаны между собой гораздо сильнее, чем может показаться, — сказал Хагихат. — Когда вы выполняете спекулятивное декодирование при инференсе, вам нужно обучить черновую модель. Наша команда по производительности моделей является крупным клиентом продукта для обучения, чтобы постоянно обучать эти „головы“ EAGLE».

Эта техническая взаимозависимость подкрепляет тезис Baseten о том, что владение как обучением, так и инференсом создает защищенную ценность. Компания может оптимизировать весь жизненный цикл: модель, обученная на Baseten, может быть развернута одним кликом на эндпоинтах инференса, предварительно оптимизированных под эту архитектуру, с поддержкой развертывания из чекпоинтов для задач дополнения чата (chat completion) и транскрипции аудио.

Этот подход резко контрастирует с вертикально интегрированными конкурентами, такими как Replicate или Modal, которые также предлагают обучение и инференс, но с другими архитектурными компромиссами. Ставка Baseten делается на низкоуровневую гибкость инфраструктуры и оптимизацию производительности, особенно для компаний, запускающих кастомные модели в больших масштабах.

По мере совершенствования открытых ИИ-моделей предприятия видят в дообучении путь к избавлению от зависимости от OpenAI

В основе всей стратегии Baseten лежит убежденность в траектории развития открытых ИИ-моделей — а именно в том, что они становятся достаточно хорошими и быстрыми, чтобы обеспечить масштабное корпоративное внедрение посредством дообучения.

«Как закрытые, так и открытые модели становятся всё лучше и лучше с точки зрения качества, — отметил Хагихат. — Нам даже не нужно, чтобы открытый исходный код превзошел закрытые модели, потому что по мере того, как улучшаются оба варианта, они открывают все эти невидимые границы полезности для различных сценариев использования».

Он указал на распространение методов обучения с подкреплением (reinforcement learning) и контролируемого дообучения (supervised fine-tuning), которые позволяют компаниям взять открытую модель и сделать ее «настолько же хорошей, как закрытая модель, пусть и не во всем, но в этом узком диапазоне возможностей, который им необходим».

Эта тенденция уже заметна в направлении Model APIs от Baseten, запущенном в начале этого года вместе с Training для обеспечения производственного доступа к открытым моделям. Компания стала первым провайдером, предложившим доступ к DeepSeek V3 и R1, а с тех пор добавила такие модели, как Llama 4 и Qwen 3, оптимизированные для производительности и надежности. Направление Model APIs служит продуктом верхней части воронки: компании начинают с готовых открытых моделей, понимают, что им нужна кастомизация, переходят к Training для дообучения и в конечном итоге развертываются на инфраструктуре Dedicated Deployments от Baseten.

Тем не менее Хагихат признал, что рынок остается «неопределенным» в отношении того, какие именно методы обучения будут доминировать. Baseten подстраховывается, оставаясь на переднем крае благодаря своей команде передового инжиниринга (Forward Deployed Engineering), которая тесно сотрудничает с избранными клиентами по вопросам обучения с подкреплением, контролируемого дообучения и других передовых методов.

«По мере этого мы будем видеть появление закономерностей относительно того, как может выглядеть превращенный в продукт инструмент обучения, который действительно решает потребности пользователя без необходимости слишком глубоко погружаться в то, как работает RL», — сказал он. «Находимся ли мы на этом этапе как индустрия? Я бы сказал, не совсем. Я вижу некоторые попытки, но все они, кажется, наступают на те же грабли, что и Blueprints — нечто вроде огороженного сада (walled garden), который связывает руки специалистам по ИИ».

План развития на будущее включает потенциальные абстракции для распространенных паттернов обучения, расширение возможностей дообучения изображений, аудио и видео, а также более глубокую интеграцию передовых методов, таких как дезагрегация этапов предзаполнения и декодирования (prefill-decode disaggregation), которая разделяет первичную обработку подсказок и генерацию токенов для повышения эффективности.

Baseten сталкивается с высокой конкуренцией, но делает ставку на то, что удобство для разработчиков и производительность привлекут корпоративных клиентов

Baseten выходит на все более переполненный рынок инфраструктуры ИИ. Гиперскейлеры вроде AWS, Google Cloud и Microsoft Azure предлагают GPU-вычисления для обучения, в то время конкурирующие специализированные провайдеры вроде Lambda Labs, CoreWeave и Together AI борются за клиента ценой, производительностью или простотой использования. Существуют также вертикально интегрированные платформы вроде Hugging Face, Replicate и Modal, которые объединяют обучение, инференс и хостинг моделей.

Дифференциация Baseten опирается на три кита: ее систему MCM для управления мультиоблачными мощностями, глубокую экспертизу в оптимизации производительности, накопленную благодаря бизнесу инференса, и опыт для разработчиков, адаптированный под продакшн-развертывания, а не под эксперименты.

Недавний раунд финансирования Серии D на сумму 150 миллионов долларов и оценка в 2,15 миллиарда долларов обеспечивают компании финансовый запас для одновременного инвестирования в оба продукта. Среди основных клиентов — Descript, использующая Baseten для задач транскрипции; Decagon, управляющая ИИ для клиентской поддержки; и Sourcegraph, развивающая помощников по программированию. Все трое работают в сферах, где кастомизация и производительность моделей являются конкурентными преимуществами.

Время может стать главным козырем Baseten. Стечение обстоятельств в виде улучшающихся открытых моделей, недовольства предприятий зависимостью от проприетарных ИИ-провайдеров и растущей искушенности в методах дообучения создает, по мнению Хагихата, устойчивый рыночный сдвиг.

«Существует множество сценариев использования, для которых закрытые модели уже подходят, а открытые — нет, — сказал он. — На рынке я вижу, как люди используют различные методы обучения — в последнее время много обучения с подкреплением и SFT, — чтобы открытая модель стала столь же хороша, как закрытая, пусть не во всем, но в этом узком диапазоне желаемых возможностей. Это очень ощутимо на рынке».

Для предприятий, преодолевающих сложный переход от закрытых ИИ-моделей к открытым, позиционирование Baseten предлагает четкое ценностное предложение: инфраструктуру, которая берет на себя всю рутину дообучения, одновременно оптимизируя процесс для достижения главной цели — производительного, надежного и экономически эффективного инференса в масштабе. Настаивание компании на том, что клиенты владеют весами своих моделей — резкий контраст с конкурентами, использующими обучение в качестве механизма привязки к вендору (lock-in) — отражает уверенность в том, что именно техническое превосходство, а не контрактные ограничения, будет стимулировать удержание клиентов.

Сможет ли Baseten реализовать это видение, зависит от преодоления трудностей, присущих ее стратегии: сохранения позиций на уровне инфраструктуры без превращения в консультантов, предоставления мощности и гибкости без перегрузки пользователей сложностью, а также создания абстракций на абсолютно нужном уровне по мере взросления рынка. Готовность компании свернуть проект Blueprints в случае его неудачи свидетельствует о прагматизме, который может оказаться решающим на рынке, где многие инфраструктурные провайдеры слишком много обещают и мало делают.

«Мы были и остаемся компанией, занимающейся инференсом, — подчеркнул Хагихат. — Причиной, по которой мы занялись обучением, служит поддержка инференса».

Эта четкость целей — рассмотрение обучения как средства достижения цели, а не как самоцели — может стать главным стратегическим активом Baseten. По мере того как внедрение ИИ переходит от стадии экспериментов к продакшну, компании, решившие задачи всего технологического стека, получат огромную ценность. Но только если они избегут ловушки создания технологий в поисках несуществующей проблемы.

По крайней мере, клиентам Baseten больше не нужно подключаться к серверам по SSH в пятницу и молиться, чтобы задачи обучения завершились к понедельнику. В инфраструктурном бизнесе лучшей инновацией зачастую является просто устранение самых болезненных моментов.