Агентный ИИ решил проблему кодинга — и обнажил все остальные проблемы программной инженерии

Агентный ИИ (Agentic AI) стал ключевой частью инженерного процесса, обеспечивая колоссальный прирост эффективности выполнения задач и позволяя генерировать больше кода, чем когда-либо прежде. Тем не менее, от бизнес-лидеров я все чаще слышу сложный вопрос: если мы выпускаем код быстрее, чем когда-либо, почему наши продукты не улучшаются с той же скоростью?

Причина в том, что написание кода никогда не было узким горлышком. Формулирование правильных требований, интеграция со сложными системами и поддержка программного обеспечения в реальных условиях всегда были самой сложной задачей. И когда агенты наводняют организацию огромным количеством нового кода, эта сложная задача становится еще сложнее. Агенты сжимают время выполнения. Они не сжимают неопределенность, ответственность или операционную сложность. 

По мере роста объемов кода, сгенерированного ИИ, ручная проверка превращается в новое масштабное узкое горлышко, а инженеры теряют контекст, необходимый для выявления ошибок агентов. Компании, которые это понимают, будут действовать обдуманно и даже создадут новые роли благодаря ИИ. Те же, кто этого не понимает, придут к простому и гораздо более разрушительному выводу: сократить штат и увеличить расходы на ИИ.

План действий

Необратимые структурные решения требуют осторожности именно потому, что технология развивается с огромной скоростью. Лидерам корпоративной инженерии нужен продуманный план действий для преодоления этого хаоса. Вот с чего следует начать:

Фаза 1: Финансовое управление и управление рисками

Минимизируйте риски падения — обеспечьте безопасность инфраструктуры и ограничьте финансовые потери.

• Рассматривайте управление рисками как приоритетную задачу: Давление с целью внедрения ИИ реально, но предоставление командам свободы экспериментов без централизованной структуры порождает разрозненные процессы, дублирование работы и астрономические расходы. Организациям необходимо установить общие стандарты, позволяя при этом командам адаптироваться и исследовать возможности в заданных рамках. Это означает, что к конфигурации агентов нужно относиться как к производственной инфраструктуре — выполнять версионирование, проверку и тестирование промтов и навыков перед их поэтапным внедрением.

• Обеспечьте принцип наименьших привилегий для нечеловеческих субъектов: Никогда не позволяйте агенту просто наследовать все права его оператора-человека. Инженерам-людям предоставляется широкий доступ, поскольку они обладают контекстуальным мышлением и несут конечную ответственность. Развертывание агентов с доступом на уровне человека без тщательного обдумывания создает пробел в ответственности в ваших системах. Внедрите строгое разделение между правами на чтение и запись/выполнение, а также сделайте обязательными шлюзы утверждения с участием человека для деструктивных или изменяющих продакшн действий. По мере того как агенты переходят от предложения кода к автономному выполнению задач, их необходимо строго интегрировать в вашу модель безопасности.

• Следите за бюджетом: Защитите общий бюджет на ИИ, установив квоты и лимиты запросов как для разработки, так и для продакшна. Предостерегающих примеров становится все больше: компания Uber ограничила расходы на ИИ после того, как исчерпала бюджет на 2026 год уже к апрелю, а по данным Axios, некая безымянная компания получила ошеломляющий счет от Anthropic на 500 миллионов долларов за один месяц из-за бесконечных циклов работы агентов.

Фаза 2: Техническая стратегия

Создайте механизм: выберите правильные модели и измерьте их успех.

• Используйте мультимодельный подход и нескольких вендоров: Ни одна модель не превосходит другие в каждой задаче. Важно точно охарактеризовать поведение и пределы производительности различных моделей, чтобы понять, в чем каждая из них сильна, и направлять конкретные задачи тем системам, которые лучше всего для них подходят. Стандартизация на одном вендоре или одной модели снижает возможности и создает критическую единую точку отказа. Ни одна организация не должна брать на себя такой уровень концентрации рисков в своей основной инженерной функции.

• Платите за передовые решения: Относитесь к ИИ как к инструменту повышения инженерной эффективности, а не просто как к еще одной статье расходов на SaaS. Платите за премиальные передовые модели, которые обеспечивают высочайшее качество результатов и сокращают дорогостоящую переделку. В конечном счете, самая дешевая модель — это не та, у которой самая низкая цена за токен, а та, которая максимизирует эффективность при минимизации ваших дальнейших рисков.

• Измеряйте то, что действительно важно: Развертывания, строки кода и пулл-реквесты никогда не были хорошими метриками производительности, а в эпоху ИИ они откровенно вводят в заблуждение. Вместо этого ориентируйтесь на метрики, связанные с бизнес-результатами (принятие функций, удержание клиентов) и надежностью разработки (частота сбоев при изменениях, пропущенные дефекты, сохранение кода с течением времени). Для оценки эффективности ИИ измеряйте успешность выполнения задач в расчете на доллар и время на доработку. Подсчет токенов удобен для таблиц лидеров, но он не может сказать вам, были ли эти токены потрачены с пользой.

Фаза 3: Кадры и организация

Перестройте человеческий капитал для управления новым узким горлышком.

• Переключите внимание инженеров с синтаксиса на системы: Поскольку агенты берут на себя основную часть генерации кода, ручная проверка и архитектурное соответствие становятся новыми узкими местами. Организациям необходимо целенаправленно повышать квалификацию своих сотрудников, чтобы они переходили от роли написания синтаксиса к роли системных мыслителей и менеджеров агентов. Инженерам необходимы обучение и полномочия для руководства агентными процессами, управления сложными кросс-системными интеграциями и поддержания общего архитектурного видения, сохранять которое агентам бывает сложно.

• Переопределите показатели эффективности и мотивации: Когда один инженер может выдавать объем работы прежней команды, традиционные метрики вроде сторипоинтов или скорости спринта могут стать неэффективными накладными расходами. Подумайте о перенастройке систем оценки, чтобы лучше вознаграждать за расширенное влияние на бизнес, межсистемную надежность и эффективную оркестрацию агентов. Если вам нужны системные мыслители, которые охватывают больше стратегических направлений, готовы исследовать и рисковать, а также создавать продукты на долгосрочную перспективу, вы должны вознаграждать их за влияние более высокого уровня, а не за чистый объем выдаваемого кода.

• Не сокращайте штат до того, как ваша стратегия адаптируется: Если вы еще не интегрировали агентные рабочие процессы, не измерили дополненный объем производства и не перестроили дорожную карту в сторону более быстрого выполнения задач, вы на самом деле не знаете, совпадают ли ваши потребности и возможности. Сокращение штата до создания этой базовой линии — это не дисциплина, а слепота. Цель состоит не просто в уменьшении команд, а в создании команд, способных охватывать больше стратегических задач.

Корпоративное внедрение ИИ требует гибкости от человека

ИИ — это не замена инженерному суждению; это усилитель этого суждения. В хорошо структурированных системах он безопасно ускоряет поставку. В плохо понятных системах он ускоряет неудачи. Мы уже пожинаем плоды: сбои, рост технического долга и неожиданные скачки затрат, вызванные неконтролируемым внедрением. Это операционные сбои, а не теоретические риски.

Ошибка, которую организации совершают сегодня, заключается вовсе не в слишком медленном внедрении ИИ, а в его внедрении без понимания того, где именно система дает сбой.

Для топ-менеджмента понимание этой динамики больше не является опциональным — это определяющий фактор того, как бизнес справляется с этой эпохой. Проблема в том, что скорость выполнения опережает способность индустрии справляться с последствиями. Мы передали инженерным командам совершенный электроинструмент. Старая пословица требует отмерять семь раз и один раз отрезан. Вместо этого слишком многие компании предпочитают просто резать.

Джо Бертолани (Joe Bertolami) — технический директор и соучредитель компании Clifton AI.

Добро пожаловать в сообщество VentureBeat!

Наша программа гостевых публикаций создана для того, чтобы технические эксперты делились своими идеями и предоставляли независимый, непредвзятый глубокий анализ ИИ, инфраструктуры данных, кибербезопасности и других передовых технологий, формирующих будущее бизнеса.

Узнайте больше из нашей программы гостевых постов и ознакомьтесь с нашими рекомендациями , если вы хотите предложить собственную статью!