SAP Joule экономит 7 млн часов работы консультантов

При поддержке SAP

В эпоху, когда любой может запустить языковую модель (LLM), главным дифференциатором становится не сама технология искусственного интеллекта, а институциональные знания, на которых она базируется. Внутренние и независимые консультанты, руководящие операционной трансформацией, не могут рисковать и полагаться на галлюцинации ИИ, когда их рекомендации затрагивают интегрированные процессы в цепочках поставок, на производстве, в финансах и других ключевых сферах.

«Обоснованный искусственный интеллект не подлежит обсуждению, потому что точность обязательна, когда мы реализуем многомиллионные проекты трансформации в экосистеме SAP, например», — говорит Натали Хан (Natalie Han), вице-президент и директор по продуктам в области генеративного ИИ в SAP Business AI. — Технология генерации с дополненной выборкой (RAG) и способность привязывать ответы к проверенным корпоративным знаниям помогают обеспечить точную интерпретацию кода, рекомендации по передовым практикам и поддержку принятия решений на основе концепции Clean Core. Именно так мы привносим подлинное доверие в консалтинг на базе ИИ».

Полноценный и обоснованный ИИ-ассистент, такой как SAP Joule for Consultants, обладает огромной ценностью в реальных производственных сценариях, добавляет она. В SAP Joule хранятся терабайты институциональных данных, которые постоянно курируются и обновляются, поэтому консультант может быть уверен, что, полагаясь на Joule, он получает самые актуальные лучшие практики и методологии SAP, одновременно ускоряя реализацию проектов.

«Мы сокращаем время на переделку задач на 14% и экономим консультантам 1,5 часа в день на каждого пользователя, что колоссально, если учесть, насколько дороги услуги консультантов сегодня, — отмечает Хан. — Ранние пользователи, такие как Wipro, подсчитали, что они сэкономили своим консультантам 7 миллионов часов ручного труда».

Основа SAP Joule

SAP Joule сертифицирован не хуже любого консультанта, утверждает Сачин Каура (Sachin Kaura), главный архитектор SAP Business AI. Инструмент появился в 2023 году, когда GPT успешно сдали имитационный квалификационный экзамен на адвоката и вызвали огромный интерес к способности LLM обрабатывать большие объемы контекста. Общепризнано, что экосистема SAP вместе с ее предметной онтологией и таксономией невероятно обширна и может быть очень сложна для навигации. Возник вопрос: как можно использовать ИИ-второстепенного пилота для преодоления этой сложности, если он фактически опирается на саму экосистему SAP?

Сачин Каура начал экспериментировать с передовыми моделями LLM, предлагая им те же сертификационные экзамены, которые сдают консультанты SAP. Первые результаты были скромными, но после тщательной настройки контекста и сосредоточения на создании ценности для экосистемы партнеров Joule теперь стабильно набирает 95% и более.

«Мы не просто проводили тестирование с точки зрения данных, но и работали со всеми нашими консультантами, чтобы сформировать так называемый эталонный набор данных (golden data set), — добавляет Хан. — Он недетерминирован, основан на языке и глубоко укоренен в экспертных знаниях живых консультантов. Мы объединили усилия со всей консалтинговой организацией, чтобы вручную разметить эталонный набор данных по всем продуктам. Это стало основой для всего, что мы делаем и по сей день».

Ультрасовременный конвейер индексации

Joule for Consultants поддерживается в актуальном состоянии в режиме реального времени. Ультрасовременный конвейер индексации передает новую документацию и релизы SAP в модель сразу после их публикации, давая консультантам уверенность в том, что каждый ответ отражает самые свежие рекомендации.

«Это чистая инженерная работа, проделанная нашими специалистами по обработке данных и инженерами с использованием множества базовых технологий SAP, — поясняет Каура. — Мы используем базовый уровень SAP для бизнеса, службы привязки документов и множество специализированных систем, чтобы быть в курсе текущих событий в системе».

Подразделение SAP Business AI также имеет поддержку на уровне совета директоров, что гарантирует: это не просто инициатива одной команды, а приоритет для всей компании. Они выстроили прочные внутренние партнерские отношения с владельцами контента по всему SAP, включая SAP Learning, SAP Community, SAP Help, продуктовые команды и команды консультантов. Совместно они постоянно обновляют проприетарный контент, такой как примечания SAP (SAP Notes), статьи базы знаний (KBA) и другие специализированные руководства, отражающие развивающиеся передовые практики SAP.

Все это означает, что Joule for Consultants может брать эти постоянно обновляемые данные и выдавать ответы практически в реальном времени. На поиск такой информации у консультанта ушли бы часы. Однако данные, извлеченные непосредственно из первоисточника, предоставляют консультантам самые актуальные и авторитетные рекомендации, помогая избежать ошибок на ранних этапах, которые могут пустить проект под откос спустя месяцы, если первоначальный объем работ не соответствовал последним возможностям.

Языковые модели — это не просто хранилища информации; они созданы для того, чтобы помогать в решении задач, автоматизировать рутинные процессы и повышать общую эффективность бизнеса.

Обеспечение безопасности корпоративного уровня

SAP создает продукт, который является актуальным, надежным и ответственным, говорит Хан. Будучи компанией, основанной в Европе, она серьезно относится к конфиденциальности данных, соблюдая GDPR и другие регламенты ЕС. В основе SAP Business AI лежит AI Foundation — операционная система ИИ, которая управляет искусственным интеллектом с помощью встроенных средств безопасности, этики и оркестровки, используя автоматизацию и аналитику для управления жизненными циклами, оптимизации ресурсов и повышения устойчивости.

Все LLM, которые используют SAP и ее клиенты, работают в рамках AI Foundation, что защищает личные и проприетарные данные от утечки. Помимо защиты данных, SAP уделяет внимание вопросам предвзятости, этики и безопасности на корпоративном уровне, используя участие человека в процессах контроля и проверки.

«У нас есть как система безопасности корпоративного уровня, так и тестирование на промпт-инъекции (внедрение запросов) и защитные барьеры, — говорит Каура. — Уровень оркестровки, встроенный в AI Foundation, анонимизирует входящие данные, а также модерирует их для предотвращения вредоносного контента. Это гарантирует, что результаты, которые мы предоставляем нашим клиентам, имеют отношение к экосистеме SAP, к предметной области, о которой они спрашивают, а не являются просто избыточным мусором общей LLM. Этот набор инструментов — от уровня фреймворка до уровня приложений, стандартов продуктов, а также тщательного тестирования — имеет решающее значение для обеспечения безопасности нашего продукта. Только тогда он может дойти до наших клиентов и партнеров».

Раздвигая границы возможностей Joule for Consultants

«Мы лишь царапаем поверхность того, что могут предложить LLM и агентный ИИ», — говорит Хан. Доступ к знаниям — это только начало. У нас появится гораздо более глубокое понимание систем SAP наших клиентов, и мы сможем помочь им в реализации и трансформации их пути. Команда разработчиков и наши инженеры работают над тем, чтобы сделать инструмент еще более трансформирующим, способным извлекать больше аналитических данных, подключаться к системам клиентов, а также понимать и оптимизировать их процессы, включая генерацию кода и управление миграцией пользовательского кода».

Следующим шагом станет добавление второго слоя обоснования. Клиентская база SAP огромна, и ее партнерская экосистема внедрила бесчисленное множество бизнес-сценариев. Привязка Joule к институциональным знаниям SAP была первой вехой; следующая — наложение собственного проприетарного контекста каждого клиента: исторических данных системы, проектных решений процессов, планов внедрения и внутренней документации. Это превращает Joule из системы, осведомленной об SAP, в систему, осведомленную о конкретном клиенте, и позволяет давать рекомендации, которые согласуются с тем, как бизнес работает на самом деле.

«Думайте об этом как об обосновании ваших знаний поверх знаний SAP, что дает вам более точные и релевантные рекомендации, — говорит Каура. — Информация, которая в противном случае могла бы затеряться, может находиться поверх Joule for Consultants. Наша система обрабатывает ее и гарантирует, что она поступает к вам правильным образом и в нужное время».

Эта расширенная база также позволяет Joule адаптировать свои рекомендации к роли консультанта — будь то архитектор, функциональный консультант или технический консультант.

«Мы предоставляем информацию, необходимую им для конкретной конфигурации клиента, — поясняет Хан. — Затем мы можем не просто отвечать на общие вопросы, но и давать ответы с учетом их конкретной конфигурации. Отсюда всего один шаг к генерации новых инсайтов и выполнению дополнительных действий».

Спонсорские статьи — это контент, подготовленный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко промаркированы. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.