Новости о пузыре ИИ: 79% компаний говорят, что их GPU простаивают не менее половины времени, однако большинство планирует запуск новых платформ ИИ

Большинство опрошенных компаний, использующих ИИ в рабочей среде, сообщают, что их графические процессоры простаивают не менее половины времени. При этом большинство таких компаний всё равно планируют добавить или сменить платформы для вычислений ИИ — об этом свидетельствуют последние данные VentureBeat Intelligence.

Согласно трём ежемесячным опросам VB Pulse, проведённым с июля по сентябрь, 79% из 218 респондентов, сообщивших о загрузке графических процессоров, заявили, что те работают не более половины времени. Среди этих компаний 70% планируют в течение следующих 12 месяцев внедрить новую, дополнительную или замещающую платформу для вычислений ИИ. Доля компаний с простаивающими графическими процессорами в каждом из трёх месяцев составляла от 77% до 81%. В четверг мы сообщили о результатах за сентябрь; данные за три месяца показывают, что ситуация остаётся неизменной.

Эти цифры важны, поскольку на Уолл-стрит спорят о том, не является ли ИИ пузырём. 13 октября Международный валютный фонд предупредил, что резкое падение цен на акции компаний, связанных с ИИ, может угрожать глобальной финансовой стабильности. В основном спор сосредоточен на компаниях, продающих вычислительные мощности для ИИ, — таких как Nvidia, облачные гиганты Microsoft, Google и Amazon Web Services, а также специализированные облачные платформы для графических процессоров, например CoreWeave, — и на том, не создают ли они больше мощностей, чем готовы оплачивать их клиенты. Мы изучили, что на самом деле делают эти клиенты.

Пузырь раздулся внутри предприятий

На первый взгляд цифры выглядят противоречиво. Почему компании, располагающие таким объёмом неиспользуемых мощностей графических процессоров, планируют добавить или сменить платформы для вычислений ИИ? И почему они оставляют графические процессоры простаивать, если, как говорят мне руководители технологических подразделений, в сезон осеннего бюджетирования на них сильно давят, требуя сократить расходы на ИИ?

Спрос на ИИ реален, но он приходится не на те мощности, которые простаивают. Специалисты и потребители продолжают всё активнее использовать ИИ, и значительная часть этих задач выполняется с помощью передовых моделей Anthropic и OpenAI. Некоторое время этот спрос будет поддерживать расходы этих компаний на вычислительные мощности. Несоответствие возникает уровнем ниже — внутри предприятий, которые платят за два вида ИИ, не способных легко заменить друг друга.

Первый вид — это вычислительные мощности. Полагаю, многие компании встревожили сообщения о дефиците графических процессоров в 2024 и 2025 годах, и они заранее забронировали мощности, чтобы не столкнуться с нехваткой. Как показывают наши опросы, значительная часть используемых компаниями мощностей простаивает, хотя мы не спрашивали, как компании получили эти мощности и распоряжаются ли ими напрямую..

Второй вид — передовые модели. Инженеры и другие сотрудники предпочитали самые мощные модели Anthropic, OpenAI и Google, оплачивая токены через API этих компаний, ежемесячные подписки или крупных облачных провайдеров. Предполагалось, что компаниям нужны самые совершенные модели, чтобы вырваться вперёд, а с экономической стороной вопроса можно разобраться позднее. В августе технический директор Uber Правин Неппалли Нага заявил, что «мы приближаемся к концу так называемой эпохи токен-максимизации»: по данным Fortune, Uber израсходовала бюджет на ИИ за 2026 год всего за несколько месяцев. Руководитель направления ИИ в компании из списка Fortune 500, пожелавший остаться анонимным, рассказал мне в октябре, что расходы на ИИ продолжают расти. Компания рассчитывает, что со временем их компенсирует повышение производительности, но пока не знает, произойдёт ли это.

Amazon Web Services, Microsoft и Google теперь предлагают модели Anthropic или OpenAI через свои облачные сервисы, а OpenAI в среду сообщила, что в ближайшие недели её модели станут доступны в Google Cloud. Передовые модели GPT от OpenAI и Claude от Anthropic являются закрытыми, поэтому облачный провайдер или создатель модели запускает их на собственной инфраструктуре и выставляет счёт за токены либо за мощности, зарезервированные для этой конкретной модели. Компания не может загрузить их на графические процессоры, которыми уже располагает. Чтобы перенести задачи на эти графические процессоры, компании нужно перейти на модель с открытыми весами и запускать её самостоятельно. Это требует реальной инженерной работы, а самые дешёвые варианты вызывают отдельные вопросы: в собственных тестах VentureBeat в октябре DeepSeek оказалась самой дешёвой из пяти проверенных нами открытых моделей. Однако DeepSeek разработана китайской лабораторией, и многие компании по-прежнему неохотно делают китайские модели основными рабочими инструментами — по целому ряду причин.

Наши данные согласуются с этой картиной по трём пунктам:

• Компании с простаивающими графическими процессорами всё равно планируют внедрить новые платформы. В течение следующего года 70% компаний с простаивающими графическими процессорами планируют внедрить новую, дополнительную или замещающую платформу для вычислений ИИ. Это примерно соответствует показателю в 74% среди компаний, чьи графические процессоры загружены, — статистически значимой разницы нет.

• Компании с простаивающими графическими процессорами рассматривают облачные платформы или поставщиков моделей. Среди компаний, планирующих внедрить новую платформу, 90% назвали одним из вариантов облачную платформу или поставщика моделей, и лишь 8% — локальный или размещённый в дата-центре кластер графических процессоров либо самостоятельно управляемый стек с открытым исходным кодом.

• Компании, использующие собственный стек, сообщают о более высокой загрузке графических процессоров. Среди компаний, запускающих ИИ на локальном или размещённом в дата-центре кластере графических процессоров либо на самостоятельно управляемом стеке с открытым исходным кодом, 56% заявили, что их графические процессоры простаивают не менее половины времени. Среди всех остальных компаний, использующих ИИ в рабочей среде, таких 83%. Мы не спрашивали о причинах. Предполагаю, что команда, управляющая собственным стеком, видит каждый час простоя и располагает инженерами, которые могут его заполнить.

У немногих компаний, планирующих внедрить новую платформу для вычислений ИИ, есть показатель окупаемости инвестиций, проверенный финансовым отделом. В сентябрьском опросе 91% всех компаний, планировавших внедрить новую платформу для вычислений ИИ, не располагали показателем окупаемости инвестиций, который проверила бы их финансовая команда. Разумеется, часть мощностей может простаивать намеренно: компания может резервировать графические процессоры на случай всплеска спроса, а новая платформа — прийти на смену старой.

Следующая экономия — на токенах, контексте и агентах

Ожидаю, что всё большая доля расходов компаний на ИИ будет приходиться на использование моделей. Речь о плате за каждый токен, которую создатели моделей и облачные провайдеры взимают за каждый запрос. Эти расходы, вероятно, будут расти, поскольку компании переходят на ИИ-агентов, которые планируют и выполняют многоэтапные задачи. По прогнозу Gartner, затраты на инференс для агентных рабочих процессов к 2028 году вырастут более чем в пять раз. Инференс — это обработка, которую выполняет модель, чтобы ответить на каждый запрос. Цена каждого токена снижается, но агенты используют намного больше токенов, в том числе более дорогих, поэтому падение цен не компенсирует рост потребления.

Большую часть токенов, обрабатываемых агентом для написания кода, составляет контекст — инструкции, документы и история, которые он перечитывает на каждом шаге. Именно поэтому кэширование так важно. В техническом руководстве, впервые опубликованном в марте, два инженера Nvidia сообщили, что после первого вызова в сеансе Claude Code последующие вызовы повторно используют из кэша от 85% до 97% контекста. Повторное использование контекста обходится гораздо дешевле, чем его обработка с нуля: Anthropic взимает за токены из кэша от одной сороковой до одной десятой обычной цены на входные токены — в зависимости от модели.

Добавление агентов тоже увеличивает счёт. Команды агентов для написания кода, в которых ведущий агент одновременно запускает до пяти подчинённых, обходятся в 1,8–5,1 раза дороже одного агента, а статистически значимое улучшение результатов тестов показала лишь одна из четырёх конфигураций команды, согласно данным Vals AI.

Прежде чем подписывать следующий договор, компаниям стоит добиться большего результата от вычислительных мощностей и токенов, за которые они уже платят. На практике это означает шесть шагов:

• измерять стоимость каждой выполненной задачи с учётом как вычислительных мощностей графических процессоров, так и расходов на API;

• проверить, какую модель и уровень усилий установить в компании по умолчанию, оценивая стоимость каждой выполненной задачи, а не цену токена: более дешёвая модель может использовать столько дополнительных токенов, что в итоге задача обойдётся дороже;

• передавать каждому агенту только необходимый ему контекст и кэшировать повторяющийся контекст — через API поставщиков моделей или на собственной инфраструктуре компании;

• добавлять второго агента только в том случае, если задачу можно разделить на параллельные части;

• переносить типовые высокообъёмные задачи, такие как классификация, извлечение данных и составление сводок, с API передовых моделей на открытые модели, работающие на простаивающих мощностях;

• заполнять оставшиеся часы простоя графических процессоров задачами, которые могут подождать, например пакетным инференсом, оценкой моделей и дообучением.

На саммите VentureBeat 28 октября обсудят эти решения

Эти вопросы станут темой саммита VentureBeat Agentic Infrastructure Stack Summit, который пройдёт 28 октября в Сан-Франциско под девизом «Более умным агентам нужно больше памяти. Лучшие команды будут использовать меньше». Программа дня состоит из четырёх частей:

• Сколько агентов запускать: Джефф Саймон, директор по информационным технологиям T-Mobile; Вал Берковичи, директор по ИИ WEKA; Дипика Кхера, старший директор по ИИ в PayPal; и Бен Кус, технический директор Box, обсудят координацию агентов при контроле затрат и рисков.

• Сколько контекста им давать: Анджул Бхамбри, старший вице-президент по инженерным разработкам Adobe, и Виджой Панди, старший вице-президент и генеральный директор Outshift by Cisco, обсудят память, контекст и координацию.

• Сколько на самом деле стоит инференс: Майка Хилл-Смит, сооснователь и генеральный директор Artificial Analysis, и Удай Киран Медисетти, выдающийся инженер Uber, обсудят экономику инференса, маршрутизацию моделей и стоимость выполненных задач. В программу также войдёт панельная дискуссия при поддержке WEKA с участием Судханшу Биста из Upwork и Вала Берковичи из WEKA.

• Стоит ли создавать собственную ИИ-фабрику: Рейнольд Д’Са, корпоративный вице-президент Microsoft, расскажет об инфраструктуре для агентных рабочих нагрузок; также состоится сессия с участием Omni и Acxiom.

О данных

VentureBeat Intelligence объединила данные июльского, августовского и сентябрьского опросов VB Pulse 2026 года об инфраструктуре и вычислениях для ИИ. В опросах приняли участие 385 квалифицированных респондентов из организаций со 100 и более сотрудниками, включая консультантов, отвечавших от имени своих основных клиентов. Каждый месяц опрашивалась новая самостоятельно сформировавшаяся группа читателей VentureBeat и участников панели, поэтому результаты описывают именно этих респондентов, а не все компании.

Данные о загрузке относятся к компаниям, использующим ИИ в рабочей среде и указавшим показатель загрузки. Они не включают компании, заявившие, что не измеряют использование графических процессоров или не используют их, а также участников июльского опроса, выбравших несколько вариантов ответа о загрузке. Респонденты могли указать несколько используемых платформ и несколько платформ, которые они рассматривают. К облачным платформам относятся AWS, Microsoft Azure, Google Cloud и Oracle Cloud Infrastructure; к поставщикам моделей — OpenAI, Anthropic и Gemini от Google. В июльском и сентябрьском опросах использовались критерии отбора из опубликованных отчётов. В августовском опросе не учитывались респонденты, чьи указанные должности не относились к сфере ИИ, поэтому общий показатель немного отличается от данных августовского отчёта. Различия в доле простаивающих графических процессоров между месяцами статистически незначимы. Различия между группами считаются статистически значимыми, только если точный критерий Фишера или критерий хи-квадрат даёт p ниже 0,05.

Приём заявок на участие в саммите Agentic Infrastructure Stack Summit завершится в понедельник, 26 октября. Подать заявку можно здесь. Спонсоры саммита — WEKA, Outshift by Cisco и OneTrust.