ИССЛЕДОВАНИЕ — Проблема контроля корпоративного ИИ: никто за него не отвечает

ИССЛЕДОВАНИЕ — Проблема контроля корпоративного ИИ: никто за него не отвечает

Источник: VentureBeat · VB Staff

Портфели искусственного интеллекта расширяются значительно быстрее, чем возможности корпораций по управлению ими. Большинство организаций используют множество конкурирующих платформ, каждая из которых претендует на роль «основного» уровня ИИ; лишь немногие могут с уверенностью обнаружить сбой или деградацию модели в рабочей среде; при этом главным препятствием для контроля чаще всего называют отсутствие единого лица, несущего ответственность за ИИ на всех уровнях. Результатом становится растущий разрыв в управлении — амбиции и расходы опережают прозрачность, подотчетность и контроль затрат, в то время как автономные агенты уже приводят к реальным финансовым и операционным сбоям.

Эта волна исследований VentureBeat Pulse Research посвящена разрыву в управлении корпоративным ИИ: сколько платформ претендуют на звание основного уровня ИИ, кто на самом деле контролирует поведение ИИ в них, способны ли организации обнаружить сбой модели в рабочей среде, что больше всего мешает межплатформенному управлению и как уже проявляются финансовые и операционные сбои автономных агентов.

Главный вывод заключается в наличии разрыва в управлении — дистанции между тем, насколько агрессивно предприятия расширяют применение ИИ и тем, какую малую часть этого они могут видеть, контролировать или регулировать. Чуть менее трех пятых (58%) наращивают количество инициатив в области ИИ, причем вариант «значительно расширяют» является самым популярным ответом.

Тем не менее 85% используют две или более платформы, каждая из которых претендует на роль «основного» уровня ИИ, и лишь 8% консолидировали их в единую систему. На фоне этой разрозненной среды 40% заявляют, что очень уверены в обнаружении дрейфа модели, небезопасного поведения или сбоя в рабочей среде — но лишь 10% подкрепляют эту уверенность активным мониторингом и оповещениями, а остальные полагаются на ручной анализ людьми. Механизмы расширения ИИ значительно опережают механизмы контроля за ним.

Этот разрыв прежде всего связан с вопросом ответственности. Лишь треть (38%) заявляют, что сегодня ИИ управляется центральной командой, а пятая часть (20%) говорит, что каждая команда платформы управляет своим ИИ независимо; главным препятствием для межплатформенного управления называют отсутствие единого ответственного лица (32%), а примерно каждый шестой (17%) заявляет, что за это вообще никто формально не отвечает. Тот же вакуум наблюдается и в расходах: чуть менее половины (49%) называют теневой ИИ — неавторизованные агентские пайплайны, оплачиваемые с корпоративных карт в обход централизованного контроля — своим самым серьезным сбоем в управлении, а еще 25% пострадали от вышедших из-под контроля счетов из-за «бесконечного цикла» работы агентов. Предприятия стандартизировали свои амбиции задолго до того, как стандартизировали контроль.

Методология

Компания VentureBeat провела этот опрос в рамках своей продолжающейся серии Pulse Research. Данное исследование было сосредоточено на разрыве в управлении корпоративным ИИ: на вопросах регулирования, наблюдаемости и контроля затрат на различных платформах ИИ. Ответы отфильтрованы по организациям со штатом от 100 сотрудников и в данной выборке исключают респондентов, выбравших вариант «Другое» в качестве своей должностной функции, что оставляет базу идентифицируемых ролей (n=145); все они получены в ходе единой волны во II квартале 2026 года (июнь). 

По размеру организаций выборка смещена в сторону среднего бизнеса и нижней границы крупного: лидируют компании с численностью 100–499 и 500–2499 сотрудников (по 23%), за ними следуют категории 10 000–49 999 (22%) и 2500–9999 (20%), а на долю компаний с численностью 50 000+ приходится 11%. По ролям преобладают руководящие и технические специалисты: консультанты и советники (20%), CIO/CTO/CISO (18%), директоры по инженерии/ИТ (14%), менеджеры по продуктам и программам (13%) и корпоративные архитекторы (12%). Отрасль технологий/программного обеспечения является крупнейшей — 41%, за ней следуют финансовые и профессиональные услуги (по 12%), а также здравоохранение/науки о жизни и производство/промышленность (по 10%).

Полученные результаты следует рассматривать скорее как ориентир (тренд), а не как точное измерение; выборка является самоподобной и не представляет собой вероятностную выборку. Там, где отдельная доля была бы ненадежной сама по себе, отчет опирается на общую направленность и группировку ответов, а не на точные процентные пункты.

Вывод 1: Расширение опережает контроль

Портфели ИИ растут быстрее, чем средства управления ими

Мы попросили предприятия описать, как изменился их портфель ИИ за последние 12 месяцев. Лидирует рост, хотя значительное меньшинство сознательно сокращает масштабы.

Вывод 1 — Расширение опережает контроль

33%

описывают свой портфель как значительно расширяющийся — запускается и масштабируется больше ИИ, чем когда-либо

25%

сообщают о чистом положительном росте — запускается больше, чем выводится из эксплуатации, причем успехи приумножаются

23%

активно проводят рационализацию — масштабируют то, что работает, и целенаправленно сокращают то, что не работает

12%

говорят, что портфель в целом стабилен — поддерживаются текущие инициативы без масштабного расширения

4%

не имеют достаточной видимости для ответа; еще 3% делают паузу или консолидируют системы, чтобы сначала навести порядок в управлении

Лидирует расширение. Объединив показатели «значительно расширяющиеся» (33%) и «чистый положительный рост» (25%), мы получаем, что чуть менее трех пятых предприятий (58%) наращивают инициативы в области ИИ. Тем не менее значительная доля компаний сознательно сбавляет темпы: примерно четверть (23%) активно проводят рационализацию — масштабируют работающие элементы и сокращают остальные, а еще 12% сохраняют свои портфели без изменений. Лишь немногие (3%) сделали паузу, чтобы сначала навести порядок в управлении.

Это первопричина каждого последующего разрыва: предприятия стремительно осваивают ландшафт, который еще не научились видеть или контролировать, а примечательные 4% даже не могут описать собственный портфель. Задокументированные здесь амбиции как раз и делают недостатки в прозрачности и ответственности из выводов 3 и 4 практическими проблемами, а не академическими.

Вывод 2: Нет единого «основного» уровня ИИ — среда является спорной

Более четырех из пяти компаний используют несколько платформ, каждая из которых претендует на первенство

Мы спросили, сколько корпоративных платформ в настоящее время претендуют на роль «основного» уровня ИИ в организации — когда ERP, EHR, ITSM, пакеты для повышения производительности или платформы данных позиционируют себя в качестве центра притяжения. Единого ответа практически ни у кого нет.

Вывод 2 — Нет единого «основного» уровня ИИ — среда является спорной

49%

говорят, что от 2 до 3 платформ претендуют на первенство — самый популярный ответ

36%

говорят, что 4 и более — идет открытая борьба

8%

консолидировали системы до одного основного уровня ИИ

6%

еще не проводили картирование этого вопроса

Определяющим условием является оспариваемое первенство. Если сложить показатели двух категорий с несколькими платформами, то окажется, что 85% предприятий имеют как минимум по две платформы, каждая из которых позиционирует себя как основной уровень ИИ, а более трети (36%) описывают ситуацию открытого соперничества четырех и более систем. Лишь 8% консолидировали инфраструктуру до одного уровня, а еще 6% даже не занимались картированием этого вопроса. В этом заключается структурная причина сложности управления: здесь нет общепринятого центра тяжести, откуда можно было бы осуществлять контроль. Каждая платформа приносит свой собственный ИИ, свои средства контроля и свои предположения — и, как показывает Вывод 3, вопрос о том, кто осуществляет управление ими всеми, все чаще остается без четкого ответа.

Вывод 3: Управление декларируется в центре, но оспаривается на практике

На бумаге за это отвечает центральная команда; на практике все фрагментировано

Мы спросили, кто сегодня на самом деле отвечает за регулирование поведения ИИ на всех этих платформах и какая функция обладает первичной подотчетностью. Общий ответ звучит обнадеживающе, но детали — нет.

Вывод 3 — Управление декларируется в центре, но оспаривается на практике

38%

говорят, что за это отвечает центральная команда — выделенная функция оркестровки или управления ИИ

21%

говорят, что ситуация неясна или между командами идет активная борьба

20%

говорят, что каждая команда платформы управляет своим ИИ независимо

19%

говорят, что никто — этот вопрос еще формально не решался

На первый взгляд, централизованная функция управления является наиболее популярным ответом — но о ней заявляет лишь треть (38%), что явно не дотягивает до большинства. Остальное распределение ответов еще больше подрывает эту позицию: пятая часть (21%) говорит, что ответственность неясна или оспаривается между командами, пятая часть (20%) заявляет, что каждая команда платформы просто управляет своим ИИ независимо, а 19% говорят, что этим вопросом вообще никто не занимался.

Ответственность фрагментируется еще сильнее, когда мы спросили, какая именно роль фактически ее несет: лидируют CIO/CTO/CISO с 27%, директор по искусственному интеллекту (Chief AI Officer) или эквивалентная роль — 22%, а поразительные 17% заявляют, что формальной ответственности пока не несет никто. Даже там, где заявлена центральная команда, названным владельцем чаще оказывается общий технический руководитель, а не специализированный орган по управлению ИИ. Функция управления чаще существует как пожелание в организационной схеме, а не как операционная реальность — что и создает предпосылки для пробела в обнаружении, описанного в Выводе 4.

Вывод 4: Пробел в обнаружении — уверенность есть, но процесс в основном ручной

Лишь у каждого десятого настроен активный мониторинг и оповещения

Мы спросили, насколько предприятия уверены в том, что смогут обнаружить в рабочей среде модель ИИ, которая отклоняется от нормы, ведет себя небезопасно или не справляется с задачами. Это суть разрыва в управлении.

Вывод 4 — Пробел в обнаружении — уверенность есть, но процесс в основном ручной

32%

относительно уверены — они в конце концов выявят большинство проблем

30%

очень уверены — у них есть процесс проверки человеком всех критически важных результатов работы ИИ

19%

не уверены — скорее всего, они узнают об этом первыми от конечных пользователей

10%

очень уверены — у них внедрены активный мониторинг и оповещения

8%

не имеют систематической видимости поведения ИИ в рабочей среде

Это ключевой показатель отчета. Хотя 40% заявляют, что очень уверены в обнаружении сбоя модели, подавляющая часть этой уверенности опирается на ручную проверку человеком (30%), а не на автоматизацию — и лишь у 10% действительно внедрены активный мониторинг и оповещения.

С другой стороны, более четверти респондентов объединяют два реактивных ответа — отсутствие систематической видимости (8%) и получение информации в первую очередь от конечных пользователей (19%) — что означает: они узнают о производственном сбое постфактум, от тех, кого он затронул. Самая большая группа (32%) находится в надеющейся серединке, рассчитывая «в конечном счете выявить большинство проблем». В сопоставлении с агрессивным расширением из Вывода 1 это и есть корень проблемы управления — предприятия внедряют ИИ в продакшен быстрее, чем создают автоматизированные средства для отслеживания его сбоев. Уверенность есть, но она преимущественно ручная, а автоматизированное обнаружение остается исключением.

Вывод 5: Отсутствующий владелец — главное препятствие

Управление буксует: на первом месте проблема ответственности, на втором — видимость

Мы попросили предприятия назвать их главное препятствие на пути внедрения управления ИИ на нескольких платформах. На вершине списка оказалась структура организации.

Вывод 5 — Отсутствующий владелец — главное препятствие

32%

указывают на отсутствие единого владельца или подотчетной команды для межплатформенного ИИ

25%

говорят о непрозрачности вендоров — им непонятны причины принимаемых платформами решений

17%

говорят, что руководство не уделяет этому приоритетного внимания — окупаемость (ROI) управления пока не очевидна

16%

испытывают нехватку инструментов или инфраструктуры для мониторинга на разных платформах

5%

не хватает талантов для создания или запуска уровня оркестровки

Отсутствие единственного владельца лидирует с показателем 32%, являясь самым частым барьером. Непрозрачность вендоров (25%) и нехватка инструментов или инфраструктуры для наблюдения за платформами (16%) находятся позади, и вместе эти два технологических препятствия, связанных с видимостью (41%), превосходят проблему распределения ответственности. Недостаток внимания со стороны руководства составляет еще 17%, в то время как явная нехватка кадров встречается редко (5%). Завершая картину, еще 5% говорят, что это вовсе не барьер для них — они уже решили данную проблему.

В совокупности ситуация выглядит более противоречивой, чем следует из заголовка: предприятия все еще чаще всего говорят об отсутствии владельца, но значительная доля видит препятствие в «черных ящиках» поставщиков и отсутствии межплатформенной наблюдаемости.

На вопрос в свободной форме о том, какую одну вещь они хотели бы исправить, респонденты с разных сторон сошлись в одном ответе — нужен единый подотчетный владелец и уровень контроля (control plane), который абстрагирует затраты, дрейф и выбор моделей от конечного пользователя.

Вывод 6: Переосмысление окупаемости тонкой настройки (fine-tuning ROI)

Примерно у семи из десяти инвестиции в кастомные модели практически не дали результатов

Мы спросили, какая доля инвестиций в проприетарные базовые модели, в которые предприятия вложились за последние 18 месяцев, принесла четкую, измеримую положительную окупаемость (ROI) в текущей рабочей среде. Большинство описывают ситуацию как «кладбище песочниц» — или осознанное решение туда не ввязываться.

Вывод 6 — Переосмысление окупаемости тонкой настройки (fine-tuning ROI)

45%

сообщают о «кладбище песочниц» (25–75%) — большая часть кастомной тонкой настройки оказалась слишком дорогой или сложной и застряла на стадии разработки

27%

сообщают о высоком успехе (>75%) — донастроенные модели легли в основу и надежно обеспечивают конкурентные преимущества

24%

выбрали стратегическое избегание — они предвидели затраты на поддержку и сознательно отказались от кастомного дообучения

4%

сообщают о полном списании (<25%) — кастомное обучение не смогло превзойти базовый RAG и в основном было заброшено

Кастомный fine-tuning для большинства не оправдал себя. Если сложить три неутешительных результата — кладбище песочниц, стратегическое избегание и полное списание — то примерно семь из десяти (73%) либо не смогли довести кастомные модели до практического использования, либо сознательно отказались от попыток, по сравнению с 27%, для которых донастроенные модели стали надежным преимуществом. Крупнейшая отдельная группа (45%) остается на кладбище проектов: инициативы слишком дороги или сложны в поддержке, застрявшие на этапе разработки. Еще четверть (24%) даже не начинали — они заложили в расчеты бремя последующего технического обслуживания и избежали его.

Сигнал заключается в том, что многие предприятия по-прежнему воспринимают заказное обучение моделей как ловушку затрат, что помогает объяснить прагматичную вендорную позицию «покупай и смешивай», описанную в Выводе 7.

Вывод 7: Позиция вендоров — гибридный подход по умолчанию, число отказов растет

Предприятия комбинируют открытые и закрытые модели; все больше компаний сокращают число поставщиков

Мы задали два связанных вопроса: переводят ли предприятия рабочие нагрузки на модели с открытыми весами (open-weight), чтобы избежать затрат на API и привязки к экосистеме, и какого проприетарного вендора, если таковой имеется, они с наибольшей вероятностью планируют поэтапно исключить в следующем году. Ответы описывают стратегию хеджирования рисков и растущую готовность расставаться с поставщиками.

Вывод 7 — Позиция вендоров — гибридный подход по умолчанию, число отказов растет

51%

соблюдают гибридный баланс — закрытые передовые модели для общих рассуждений, открытые веса, развернутые локально, для специализированного выполнения задач

32%

придерживаются закрытой приверженности — остаются в закрытых экосистемах, поскольку накладные расходы на самостоятельное размещение открытых моделей все еще слишком высоки

16%

совершают резкий поворот — переводят основные рабочие процессы на открытые веса в рамках частной инфраструктуры для полного контроля данных

Что касается открытых весов, явное большинство (51%) выбирает гибридный баланс, на втором месте с 32% находится осознанная приверженность закрытым решениям, а резкий поворот к самостоятельному хостингу открытых моделей совершают 16%. Гибридное большинство отражает тот же инстинкт, который прослеживается во всем этом исследовании — сохранять вариативность, избегать ловушек, — в то время как закрытая группа откровенно заявляет, что операционные накладные расходы на самостоятельный хостинг для них пока перевешивают экономию.

В вопросе отказа от вендоров лояльность по инерции больше не лидирует: Microsoft теперь является самой часто упоминаемой целью для сокращения (29%, часто ссылаясь на сокращение использования Copilot/Azure в пользу прямого доступа к моделям), незначительно опережая 27% тех, кто вообще никого не сокращает. За ней следует OpenAI с 21% (ссылаясь на волатильность цен), а также Anthropic с 15% и Google с 6%. Ни один отдельный вендор не сталкивается с массовым исходом, но среди идентифицируемых ролей баланс сместился от «расширения всего со всеми» в сторону активного сокращения как минимум одного поставщика.

Вывод 8: Кризис трат на агентов — теневой ИИ лидирует среди сбоев

Неавторизованные пайплайны, а не вышедшие из-под контроля циклы, являются главным сбоем управления

Наконец, мы спросили, с какими наиболее серьезными финансовыми или операционными сбоями в управлении столкнулись предприятия по мере того, как автономные агенты работают в течение более длительных периодов выполнения. Теневой ИИ возглавляет список, и лишь очень немногие избежали серьезных потрясений.

Вывод 8 — Кризис трат на агентов — теневой ИИ лидирует среди сбоев

49%

называют пролиферацию теневого ИИ — когда отделы запускают неавторизованные агентские пайплайны с корпоративных карт в обход централизованного финансового контроля

25%

столкнулись с чеком за «бесконечный цикл» — необнаруженный рекурсивный рабочий процесс, который в ходе одного инцидента накрутил тысячи долларов за неавторизованные токены

21%

сообщают о контролируемой стабильности — строгое ограничение (троттлинг) токенов и лимиты бюджетов на уровне инфраструктуры, никаких сюрпризов

6%

пострадали от DDoS-атаки на базу данных — агент отправлял тысячи нерегулируемых запросов, которые ухудшили работу основных производственных систем

У разрыва в управлении есть цена, и ее приходится платить. Чуть менее половины предприятий (49%) называют теневой ИИ — неавторизованные агентские пайплайны, запущенные на корпоративные карты вне какого-либо централизованного контроля — своим самым серьезным сбоем. Это операционный близнец барьера «отсутствия единого владельца» из Вывода 5. Еще 25% пострадали от гигантских счетов из-за бесконечного зацикливания агентов, а 6% столкнулись с агентом, который деградировал производственные базы данных. Лишь 21% сообщают о контролируемой стабильности — это меньшинство, которое ввело жесткое ограничение токенов и лимиты бюджетов на уровне инфраструктуры и избежало сюрпризов.

Иными словами, примерно четыре из пяти таких предприятий (79%) уже испытали реальный финансовый или операционный сбой в управлении автономным ИИ, а не просто беспокоились о нем. Как и в случае с обнаружением из Вывода 4, детерминированные средства контроля, предотвращающие такие сбои, существуют лишь в небольшой части организаций.

Итог: Разрыв в управлении, который одними финансовыми вливаниями не закрыть

Организации со штатом от 100 сотрудников описывают программы ИИ, которые быстро расширяются и крайне медленно управляются. Чуть менее трех пятых наращивают свои портфели; более четырех из пяти используют поле конкурирующих платформ без согласованного основного уровня; а главным препятствием они чаще всего называют отсутствие единого ответственного лица. Видимость, соответствующая этим амбициям, носит преимущественно ручной характер — только у 10% есть активный мониторинг и оповещения, а уверенность в обнаружении сбоя модели держится в основном на проверке человеком, а не на автоматизации.

Последствия уже вполне конкретны, а не гипотетичны. Кастомная тонкая настройка разочаровывала чаще, чем оправдывала надежды, подталкивая предприятия к взвешенной, гибридной модели «покупай и смешивай»; а автономные агенты, выходящие в продакшен, привели к реальным сбоям управления примерно у четырех из пяти респондентов, во главе с теневым ИИ, работающим в обход централизованного надзора. Этот материал следует воспринимать как ориентир, а не как точное измерение, но вектор остается неизменным для каждого вопроса: амбиции, расходы и развертывание опережают ответственность, наблюдаемость и контроль затрат. Разрыв в управлении — это не проблема инструментов, которую можно решить исключительно вливанием денег; прежде всего, это вопрос о том, кто несет за это ответственность. 


Основано на ответах 145 квалифицированных респондентов из числа корпоративных заказчиков (более 100 сотрудников). Размер выборки небольшой; данные следует воспринимать как тренд. Среди респондентов — директора, вице-президенты, CIO, CTO и корпоративные архитекторы из сферы технологий, финансовых услуг, ритейла, здравоохранения и других секторов.

Resources

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.