Задача корпоративного ИИ, которую никто не решает с помощью одной лишь генерации кода

При поддержке SAP

Генерация кода с помощью ИИ происходит быстро, но запуск этого кода в надежную работу внутри крупного предприятия, с интеграцией в действующие системы, контролем соответствия требованиям и возможностью поддержки на протяжении многих лет требует фундаментальной работы, которую большинство организаций недооценивают.

Хотя 81% всех организаций имеют детальную стратегию, лишь 12–16% достигают реализации на базе ИИ, говорит Майкл Амелинг (Michael Ameling), директор по продуктам SAP Business Technology Platform, и причины редко кроются в качестве сгенерированного кода.

«В разных отраслях предприятия, вложившие значительные средства в инструменты на базе ИИ, упираются в тупик, когда сгенерированный код сталкивается с реальностью их существующих сред, поскольку генерация кода и его практическое внедрение — это не одно и то же», — отмечает Амелинг.

Существуют конкретные требования к развертыванию логики, созданной ИИ, в масштабах предприятия: какова на самом деле готовность данных и интеграции, как работает управление, когда агенты ИИ переходят от выдачи рекомендаций к выполнению рабочих процессов, и как меняется роль команд разработчиков по мере того, как ИИ берет на себя все большую часть работы по написанию кода.

Почему генерация кода с помощью ИИ терпит неудачу в производственных средах предприятий

Повышение производительности за счет генерации кода с помощью ИИ реально и хорошо задокументировано, однако простота создания прототипов создала у многих организаций обманчивое ощущение того, насколько далеко они на самом деле продвинулись.

«Генерация кода — это одно, — говорит Амелинг. — Корпоративным клиентам, включая транснациональные корпорации и крупные организации, необходимо убедиться в отсутствии каких-либо компромиссов в отношении соответствия требованиям или безопасности. Код, который надежно работает в течение десяти или двадцати лет, как это происходит у многих крупнейших клиентов SAP, также должен обслуживаться, получать патчи и быть понятным для любого, кто унаследует его. Другими словами, управление жизненным циклом не происходит само по себе».

Проблема редко заключается в качестве генерации. Команды создают нечто впечатляющее, а затем обнаруживают, что у них нет доступа к данным, от которых это зависит, или к интеграциям, которые предполагаются, или к разрешениям, необходимым для запуска в реальной среде. Проблема по сути заключается в том, что ИИ усиливает существующую в организации зрелость данных и процессов, но не может заменить ее.

Эта динамика усиливается по мере того, как ИИ переходит от создания кода к выполнению действий. Задержки, стоимость и нагрузка на систему возрастают, когда логика работает непрерывно с «живыми» данными, а не выдает результат единоразово. Требования к производительности автономного агента, работающего с транзакционными системами транснациональной корпорации, кардинально отличаются от требований к ко-пилоту разработчика.

Как связать созданную ИИ логику с фрагментированными корпоративными системами

Архитектурная задача, которую большинство корпоративных ИИ-проектов недооценивают — это интеграция. Реальные корпоративные среды не представляют собой чистый лист: они объединяют облачные системы, устаревшую локальную инфраструктуру, фрагментированные хранилища данных и десятки бизнес-приложений, которые никогда не были рассчитаны на взаимодействие друг с другом. Чтобы заставить сгенерированную ИИ логику надежно работать во всех них, необходим уровень, объединяющий доступ к данным, контекст процессов и управление, и он должен быть развернут до того, как какой-либо агент начнет выполнение задач. И организации, которые видят в ИИ повод отложить модернизацию инфраструктуры, совершают ошибку.

«Вопрос не в том, модернизировать или нет. Конечно, модернизировать нужно, — говорит Амелинг. — Но ценность, которую вы получаете поверх этого, значительно выше с ИИ. Федеративный доступ к данным и гармонизированные уровни процессов — это не альтернатива обновлению фрагментированного ландшафта, это то, что делает обновление целесообразным».

На уровне платформы это выливается в набор практических требований: структурированная интеграция данных, сквозная видимость процессов, а также возможность обнаруживать API и подключаться к ним как в современных, так и в устаревших системах. Подход SAP с платформой Business AI Platform опирается на такие инструменты, как Joule Studio, Integration Suite, Business Data Cloud и корпоративный архитектурный слой SAP AI Agent Hub, для обеспечения этого контекста. Цель состоит в том, чтобы предоставить сгенерированной ИИ логике точные и актуальные знания о том, что делает бизнес и как, а не просто доступ к «сырым» данным.

Агенты ИИ справляются с большими задачами, разделяя их на более мелкие, автономные подзадачи, причем каждый агент отвечает за определенный домен, и все они координируются для достижения общего результата. Закрытие финансового периода, например, включает в себя десятки отдельных подпроцессов. Агенты, выполняющие каждую задачу параллельно и в рамках заданных ограничений, могут значительно сократить циклы, но только в том случае, если базовые системы, с которыми они взаимодействуют, согласованы и доступны.

Управление и контроль, требуемые от агентов ИИ в рабочей среде

Когда ИИ переходит из роли помощника в роль оперативного исполнителя, вопросы управления выходят на первый план, поскольку агентам, которые запускают рабочие процессы, обновляют записи и взаимодействуют с действующими бизнес-системами, требуется та же система подотчетности, что и сотрудникам-людям, то есть идентификаторы, определенные привилегии и аудируемое поведение.

Существует две основные модели:

Пропагация принципала (Principal propagation), когда агент действует от имени пользователя, наследуя разрешения и область действия этого пользователя.

Агенты, инициируемые системой, когда агент работает под собственной идентичностью и с привилегиями, определяемыми ролями, функционируя скорее как автоматизированная кадровая роль, чем как личный помощник.

Обе модели требуют одинаковой базовой инфраструктуры: хаба агентов, где операторы могут видеть, какие агенты существуют, к каким API они имеют доступ и что им разрешено делать. Наблюдаемость (observability) также должна быть правильно настроена для ИИ в сочетании как с техническими, так и с бизнес-оценками.

«В рабочей среде открытость очень важна, — говорит Амелинг. — Мы используем OpenTelemetry в качестве платформы, чтобы иметь возможность интегрироваться с другими решениями для обеспечения сквозной наблюдаемости инструмента, сторонних агентов и тому подобного».

Вдобавок к этому стандартные технические оценки (evals), которые проверяют, выдает ли агент стабильные результаты, необходимы, но недостаточны. Бизнес-оценки оценивают, действительно ли агент улучшает те ключевые показатели эффективности, для повышения которых он был развернут, но это должно работать в сквозном режиме.

Место проведения тестирования имеет не меньшее значение. Традиционный цикл разработки программного обеспечения в средах разработки, тестирования и производства дает сбой, когда модель выдает разные результаты в зависимости от того, работает ли она с тестовыми данными или с «живыми» данными. Достижение заслуживающего доверия ИИ в рабочей среде означает признание того, что валидация кардинально отличается от того, чем инженерные команды занимались на протяжении десятилетий, включая тестирование в реальной среде и даже A/B/C-тестирование для обеспечения надежности результатов.

Как генерация кода на основе ИИ меняет роли в разработке программного обеспечения

Роль разработчика не исчезает в этой среде, но ее центр тяжести смещается. Мультипликатор производительности значителен, когда разработчики могут запускать несколько агентов кодирования параллельно в открытых терминалах, каждый из которых работает над отдельной задачей и тратит на ее выполнение несколько минут. Но это порождает новый вид когнитивной нагрузки, поскольку люди должны оставаться вовлеченными в процесс. Это означает отслеживание контекста в параллельных рабочих потоках, оценку результатов в огромных кодовых базах и принятие архитектурных решений, которые нельзя доверить ни одному агенту в одиночку.

«Чем точнее и полнее промпт, тем меньше вмешательства требуется, и разработчики участвуют в том, что заблаговременное предоставление большего количества контекста окупится за счет сокращения переписки, — говорит Амелинг. — Но результаты все равно нужно понимать, а не просто принимать».

Конкурентным преимуществом останется интеллектуальная собственность, а не инструменты. Вперед вырвутся те компании, которые наиболее эффективно закодируют свои знания предметной области в создаваемые ими системы.

«Экспертиза производителя в процессах, логика рисков финансового учреждения, интеллект маршрутизации логистической фирмы — это те активы, которые ИИ может ускорить, но только если организации, владеющие ими, проделают работу по обеспечению их доступности и удобства использования, — говорит Амелинг. — Защитите это и примените ИИ для ускорения вашей дифференциации».

Спонсорские статьи — это контент, созданный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко помечены. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.