Contextual AI представляет Agent Composer

В гонке за внедрение искусственного интеллекта на корпоративном уровне небольшой, но хорошо финансируемый стартап делает смелое заявление: проблема, сдерживающая внедрение ИИ в сложных отраслях, никогда не заключалась в самих моделях.

Contextual AI, двухлетняя компания, которую поддерживают такие инвесторы, как Bezos Expeditions и Bain Capital Ventures, в понедельник представила Agent Composer — платформу, созданную для того, чтобы помочь инженерам в аэрокосмической сфере, полупроводниковой промышленности и других технически сложных областях создавать ИИ-агенты, способные автоматизировать ресурсоемкие задачи, долгое время сопротивлявшиеся автоматизации.

Это объявление появляется в ключевой момент для корпоративного ИИ. Спустя четыре года после того, как ChatGPT вызвал бум корпоративных инициатив в области ИИ, многие организации продолжают топтаться на этапе пилотных проектов, пытаясь перевести экспериментальные разработки в полномасштабное производство. Финансовые директора и руководители бизнес-подразделений теряют терпение из-за внутренних усилий, которые поглотили миллионы долларов, но принесли ограниченную отдачу.

Дууве Кила (Douwe Kiela), генеральный директор Contextual AI, считает, что индустрия была сосредоточена не на том узком месте. «Модель на данный момент практически превратилась в товар широкого потребления, — отметил Кила в интервью VentureBeat. — Узкое место — это контекст: может ли ИИ действительно получить доступ к вашим проприетарным документам, спецификациям и институциональным знаниям? Вот проблему какого рода мы решаем».

Почему корпоративный ИИ продолжает давать сбои и что должна была исправить дополненная генерация с извлечением данных

Чтобы понять, что пытается сделать Contextual AI, полезно разобраться в концепции, которая стала центральной в современной разработке ИИ: дополненная генерация с извлечением данных, или RAG.

Когда большие языковые модели, подобные тем, что создают OpenAI, Google или Anthropic, генерируют ответы, они опираются на знания, заложенные во время обучения. Но эти знания имеют дату отсечки и не могут включать проприетарные документы, инженерные спецификации и институциональные знания, которые составляют основу большинства предприятий.

Системы RAG пытаются решить эту проблему, извлекая релевантные документы из собственных баз данных компании и передавая их модели вместе с вопросом пользователя. Затем модель может основывать свой ответ на актуальных данных компании, а не полагаться исключительно на свое обучение.

Кила помог заложить основы этого подхода во время работы в качестве научного сотрудника в Facebook AI Research, а позже — в должности руководителя исследований в Hugging Face, влиятельной компании, занимающейся разработкой ИИ с открытым исходным кодом. Он имеет степень доктора философии (Ph.D.) Кембриджского университета и работает адъюнкт-профессором по символьным системам в Стэнфордском университете.

Однако первые системы RAG, признает Кила, были несовершенны.

«Ранний RAG был довольно примитивным: берешь готовый поисковик, подключаешь к генератору и надеешься на лучшее, — сказал он. — Ошибки накапливались по всей цепочке. Галлюцинации были обычным делом, поскольку генератор не был обучен оставаться в рамках фактов».

Когда Кила основал Contextual AI в июне 2023 года, он поставил перед собой задачу систематически решать эти проблемы. Компания разработала то, что она называет «унифицированным слоем контекста» — набор инструментов, расположенных между данными компании и моделями ИИ, которые гарантируют, что нужная информация дойдет до модели в правильном формате и в нужный время.

Этот подход получил признание. Согласно тематическому исследованию Google Cloud, компания Contextual AI добилась самой высокой производительности в тесте Google FACTS для получения достоверных результатов, устойчивых к галлюцинациям. Компания доработала модели Llama с открытым исходным кодом от Meta на платформе Vertex AI от Google Cloud, сосредоточившись конкретно на снижении склонности систем ИИ выдумывать информацию.

Внутри Agent Composer — платформы, которая обещает превратить сложные инженерные рабочие процессы в задачу на несколько минут

Agent Composer расширяет существующую платформу Contextual AI возможностями оркестрации — способностью координировать несколько инструментов ИИ на разных этапах для выполнения сложных рабочих процессов.

Платформа предлагает три способа создания ИИ-агентов. Пользователи могут начать с готовых агентов, разработанных для распространенных технических рабочих процессов, таких как анализ первопричин или проверка на соответствие требованиям. Они могут описать рабочий процесс на естественном языке и позволить системе автоматически сгенерировать работающую архитектуру агента. Или же они могут создать все с нуля, используя визуальный интерфейс drag-and-drop, не требующий написания кода.

Что отличает Agent Composer от конкурирующих подходов, так это его гибридная архитектура, заявляют в компании. Команды могут сочетать строгие детерминированные правила для критически важных этапов (проверки на соответствие требованиям, валидация данных, этапы утверждения) с динамическими рассуждениями для исследовательского анализа.

«Для критически важных рабочих процессов пользователи могут выбирать полностью детерминированные шаги, чтобы контролировать поведение агента и избегать неопределенности», — сказал Кила.

Платформа также включает то, что компания называет «оптимизацией агента в один клик», которая учитывает отзывы пользователей и автоматически настраивает производительность агента. Каждый шаг процесса рассуждения агента поддается аудиту, а ответы сопровождаются цитатами на уровне предложений, точно указывающими, где именно в исходных документах появилась информация.

От восьми часов до 20 минут: что говорят первые клиенты о реальной производительности платформы

Contextual AI заявляет, что первые клиенты сообщают о значительном росте эффективности, хотя компания признает, что эти цифры основаны на самооценке клиентов, а не на независимой верификации.

«Они получены непосредственно из оценок клиентов, которые являются приближением реальных рабочих процессов, — сказал Кила. — Цифры предоставляются нашими клиентами самостоятельно по мере того, как они описывают сценарий «до и после» внедрения Contextual AI».

Тем не менее заявленные результаты впечатляют. Передовой производитель сократил время анализа первопричин с восьми часов до 20 минут за счет автоматизации синтаксического анализа данных датчиков и корреляции журналов. Компания, выпускающая специальную химическую продукцию, сократила время исследования продуктов с нескольких часов до нескольких минут благодаря агентам, которые ищут информацию в патентах и базах данных нормативных актов. Производитель испытательного оборудования теперь генерирует тестовый код за считанные минуты вместо дней.

Кит Шауб (Keith Schaub), вице-президент по технологиям и стратегии компании Advantest (производитель полупроводникового испытательного оборудования), оставил положительный отзыв. «Contextual AI стала важной частью наших усилий по трансформации ИИ, — отметил Шауб. — Технология была внедрена в различных командах Advantest и у избранных конечных клиентов, сэкономив значительное время при выполнении задач — от генерации тестового кода до рабочих процессов клиентской инженерии».

Среди других клиентов компании — гигант полупроводниковой индустрии Qualcomm; ShipBob, технологический логистический провайдер, который заявляет, что добился ускорения решения проблем в 60 раз; а также Nvidia, производитель чипов, графические процессоры которого обеспечивают работу большинства систем ИИ.

Извечная корпоративная дилемма: стоит ли компаниям создавать собственные системы ИИ или покупать готовые решения?

Пожалуй, самая большая проблема, с которой сталкивается Contextual AI — это не конкурирующие продукты, а стремление инженерных организаций создавать собственные решения.

«Самое главное возражение — «мы сделаем это сами», — признает Кила. — Некоторые команды пытаются это сделать. Это звучит заманчиво, но добиться такого высокого качества в масштабе исключительно сложно. Многие из наших клиентов начинали с метода «сделай сам» и через 12–18 месяцев обнаруживали, что все еще отлаживают конвейеры поиска информации, а не решают реальные задачи».

Альтернатива — готовые точечные решения — создает собственные проблемы, утверждают в компании. Такие инструменты развертываются быстро, но часто оказываются негибкими и их трудно настроить под конкретные сценарии использования.

Agent Composer пытается занять промежуточную позицию, предлагая платформенный подход, который сочетает в себе готовые компоненты с широкими возможностями кастомизации. Система поддерживает модели от OpenAI, Anthropic и Google, а также собственную языковую модель Grounded Language Model от Contextual AI, которая была специально обучена оставаться верной извлеченному контенту.

Цены начинаются от 50 долларов в месяц при самостоятельном использовании, для масштабных внедрений предусмотрены индивидуальные корпоративные тарифы.

«Обоснование для финансовых директоров на самом деле сводится к повышению производительности и более быстрому выводу инициатив в сфере ИИ на этап производства, — говорит Кила. — Каждая техническая команда борется за найм лучших инженерных кадров, поэтому повышение эффективности работы уже существующих команд является главным приоритетом в этих отраслях».

Путь вперед: координация работы нескольких агентов, действия по записи и гонка за создание составных систем ИИ

Глядя в будущее, Кила выделил три приоритета на предстоящий год: автоматизация рабочих процессов с реальными действиями по записи в корпоративных системах, а не только чтением и анализом; лучшая координация между несколькими специализированными агентами, работающими в команде; а также более быстрое приобретение специализированных навыков за счет автоматического обучения на основе отзывов из производственной среды.

«Здесь важен совокупный эффект, — сказал он. — Каждый поглощенный документ, каждый замкнутый цикл обратной связи — все эти улучшения суммируются. Компании, которые строят эту инфраструктуру сейчас, будет трудно догнать».

Рынок корпоративного ИИ остается крайне конкурентным: предложения от крупных облачных провайдеров, устоявшихся поставщиков программного обеспечения и множества стартапов борются за одних и тех же клиентов. То, окупится ли ставка Contextual AI на контекст в противовес моделям, зависит от того, разделят ли компании точку зрения Килы о том, что войны базовых моделей менее важны, чем окружающая их инфраструктура.

Но в позиционировании компании есть определенная ирония. Годами индустрия ИИ была зациклена на создании все более крупных и мощных моделей, вливая миллиарды в гонку за искусственным общим интеллектом. Contextual AI выдвигает более сдержанный аргумент: для большинства реальных задач магия кроется не в модели. Она в том, чтобы знать, где искать.