Глубокие агенты LangChain по-новому определяют ИИ-инструменты

По мере того как модели становятся умнее и функциональнее, «обвязка» (harness), окружающая их, также должна эволюционировать.

Эта «инженерия обвязки» является продолжением инженерии контекста, рассказывает соучредитель и генеральный директор LangChain Харрисон Чейз (Harrison Chase) в новом выпуске подкаста VentureBeat Beyond the Pilot. Если традиционные ИИ-обвязки обычно ограничивали модели в запуске циклов и вызове инструментов, то обвязки, созданные специально для ИИ-агентов, позволяют им взаимодействовать более независимо и эффективно выполнять долгосрочные задачи.

Чейз также высказался по поводу приобретения OpenAI компании OpenClaw, заявив, что ее вирусный успех объясняется готовностью «пустить все на самотек» таким образом, на который не решилась бы ни одна крупная лаборатория, и выразил сомнение в том, что эта сделка действительно приближает OpenAI к созданию безопасной корпоративной версии продукта.

«Тенденция в создании обвязок заключается в том, чтобы предоставить самой большой языковой модели (LLM) больше контроля над инженерией контекста, позволяя ей самой решать, что она видит, а что нет», — говорит Чейз. «Теперь эта идея долгоиграющего и более автономного ассистента стала жизнеспособной».

Отслеживание прогресса и поддержание согласованности

Хотя концепция предоставления LLM возможности работать в цикле и вызывать инструменты кажется относительно простой, ее трудно реализовать надежно, отметил Чейз. Какое-то время модели находились «ниже порога полезности» и просто не могли работать в цикле, поэтому разработчики использовали графы и писали цепочки, чтобы обойти это ограничение. Чейз указал на AutoGPT — некогда самый быстрорастущий проект на GitHub в истории — в качестве поучительного примера: у него была та же архитектура, что и у современных топовых агентов, но модели были еще недостаточно хороши для надежной работы в цикле, поэтому проект быстро затух.

Но по мере того как LLM продолжают совершенствоваться, команды могут создавать среды, где модели способны работать в циклах и планировать на более отдаленную перспективу, постоянно улучшая эти обвязки. Раньше «было нельзя по-настоящему улучшить обвязку, потому что нельзя было запустить саму модель внутри обвязки», — сказал Чейз.

Ответом LangChain на это стали Deep Agents — настраиваемая универсальная обвязка.

Построенная на базе LangChain и LangGraph, она обладает возможностями планирования, виртуальной файловой системой, управлением контекстом и токенами, выполнением кода, а также функциями работы с навыками и памятью. Кроме того, она может делегировать задачи субагентам; последние специализируются на определенных инструментах и конфигурациях и могут работать параллельно. Контекст также изолирован: это означает, что работа субагентов не загромождает контекст основного агента, а громоздкий контекст подзадач сжимается в единый результат для повышения эффективности использования токенов.

Все эти агенты имеют доступ к файловым системам, пояснил Чейз, и могут по сути создавать списки дел, которые они способны выполнять и отслеживать с течением времени.

«Когда агент переходит к следующему шагу — к второму, третьему или четвертому шагу из 200-шагового процесса, у него есть способ отслеживать свой прогресс и сохранять эту согласованность», — сказал Чейз. «Все сводится к тому, чтобы позволить LLM записывать свои мысли по ходу дела».

Он подчеркнул, что обвязки должны быть спроектированы так, чтобы модели могли поддерживать последовательность при выполнении более длительных задач и быть «восприимчивыми» к тому, чтобы модель сама решала, когда сжимать контекст в те моменты, которые она считает «выгодными».

Кроме того, предоставление агентам доступа к интерпретаторам кода и инструментам BASH повышает гибкость. А наделение агентов навыками вместо просто предварительно загруженных инструментов позволяет им подгружать информацию по мере необходимости. «Так что вместо того, чтобы жестко кодировать все в один большой системный промпт, — пояснил Чейз, — вы можете использовать промпт поменьше: „Это основная база, но если мне нужно сделать X, позволь мне прочитать навык для X. Если мне нужно сделать Y, позволь мне прочитать навык для Y“».

По сути, инженерия контекста — это «очень заумный» способ сказать следующее: что видит LLM? Ведь это отличается от того, что видят разработчики, отметил он. Когда человеческие разработчики могут анализировать трассировки агентов, они могут поставить себя на «место» ИИ и ответить на такие вопросы: Каков системный промпт? Как он создается? Статичен он или заполняется динамически? Какие инструменты есть у агента? Когда он вызывает инструмент и получает ответ, как этот ответ представляется?

«Когда агенты совершают ошибки, они совершают их потому, что у них нет правильного контекста; когда они преуспевают, они преуспевают потому, что у них есть правильный контекст», — сказал Чейз. «Я рассматриваю инженерию контекста как доставку нужной информации в нужном формате для LLM в нужное время».

Послушайте подкаст, чтобы узнать больше о следующем:

• Как LangChain построила свой стек: LangGraph в качестве основного столпа, LangChain в центре и Deep Agents поверх них.

• Почему песочницы кода станут следующим большим трендом.

• Как будет развиваться другой тип пользовательского опыта (UX), по мере того как агенты будут работать с большими интервалами (или непрерывно).

• Почему трассировки и наблюдаемость имеют ключевое значение для создания реально работающего агента.

Вы также можете послушать и подписаться на Beyond the Pilot на Spotify, Apple или на любой другой платформе, где вы слушаете подкасты.