DeLM от Стэнфорда снижает затраты на многоагентные системы на 50%

Одно из базовых предположений современных платформ ИИ заключается в том, что агентам необходим «начальник» в центре; этот оркестратор управляет процессом, перенаправляет запросы и следит за тем, чтобы вся система не скатилась в хаос.

Это предположение может оказаться ошибочным, а цена за его использование измеряется долларами на вывод (inference dollars) и задержками при координации. Новый фреймворк из Стэнфорда под названием «децентрализованная языковая модель», или DeLM, построен на том постулате, что агенты могут координировать свои действия напрямую, без маршрутизации каждого обновления через центральный контроллер.

Общая база знаний DeLM служит «единой коммуникационной средой», благодаря которой агенты могут опираться на проверенные успехи друг друга без необходимости пропускать каждое взаимодействие через главного агента для «объединения, фильтрации и ретрансляции», объясняют разработчики фреймворка Ючжэнь Мао (Yuzhen Mao) и Азалия Мирхосейни (Azalia Mirhoseini) в своей исследовательской работе.

Такая система не только возможна, но и предпочтительна в определенных случаях. «Агенты могут опираться на предыдущие открытия, избегать повторяющихся ошибок, сохранять ограничения и восстанавливать подробные доказательства только тогда, когда это необходимо».

Проблемы традиционных многоагентных систем

В типичной централизованной многоагентной системе главный агент разбивает задачи на подзадачи, параллельно распределяет их между несколькими субагентами, ожидает ответа, объединяет и суммирует промежуточные результаты, а затем запускает следующую волну поручений на основе собранного контекста.

Хотя это естественный способ масштабирования рассуждений LLM, стэнфордские исследователи утверждают, что он плохо масштабируется. Каждое полезное открытие, частичный результат и ошибка должны быть переданы обратно главному агенту, который затем определяет, какую информацию следует объединить и ретранслировать нижестоящим агентам.

«По мере роста числа подзадач этот контроллер становится узким горлышком для коммуникации и интеграции», — пишут Мао и Мирхосейни. Кроме того, главный оркестратор может «смягчить, упустить или исказить» полезную информацию, что приведет к потере достигнутых результатов.

Это узкое место возникает и в сценариях рассуждений с длинным контекстом. Получив отчеты от субагентов, главный агент обычно объединяет связанные концепции, точки данных и другие материалы в цикле неконтролируемого обучения. Затем он может заранее назначить эти «кластеры доказательств» субагентам, еще не зная, какие из всплывших материалов действительно актуальны и правильно ли они объединены.

Получив столь недостаточный контекст, субагент фактически запутается и вернется к главному агенту, запустив новый раунд поиска или делегирования. «Подобные пересылки туда-сюда делают координацию более медленной, итеративной и все сильнее ограничиваемой единственным перегруженным главным агентом», — пишут исследователи.

Что решает DeLM и как это работает

DeLM, напротив, построена на основе параллельных агентов, общего контекста и очереди задач.

Общий контекст — это, по сути, курируемое хранилище «сутей» (gists) или сводок информации, которые могут пригодиться другим агентам. Сюда входят проверенные факты на основе доказательств, а также частичные результаты и задокументированные сбои; они также указывают на подробные свидетельства, к которым агенты могут обратиться в зависимости от своей конкретной задачи.

Очередь задач представляет собой набор последующих ожидающих выполнения подзадач, которые агенты могут брать в работу самостоятельно.

«Агенты записывают компактные, проверенные обновления в общий контекст, который последующие агенты могут читать напрямую», — пишут исследователи. Полезные находки, ошибки и ограничения накапливаются как «общее состояние проблемы», а не проходят через центральный контроллер.

Конвейер выглядит следующим образом:

• Инициализация: Входные данные разбиваются на различные рабочие блоки и добавляются в очередь;

• Параллельное выполнение: Агенты работают независимо и слаженно, забирая задачи и считывая общий контекст по мере продвижения.

• Сжатие и верификация: Результаты сжимаются в многоразовые «сути», которые сверяются с подтверждающими данными. Группе передаются только полностью проверенные выжимки.

• Дополнительная работа (при необходимости): Когда очередь пустеет, последний агент, вернувший ответ, изучает весь общий контекст, чтобы определить, требуется ли дальнейшая работа.

• Заключительный этап: Последний агент определяет, что никаких дополнительных шагов не требуется, и возвращает окончательный ответ.

Агенты «обмениваются информацией о прогрессе через общее состояние, асинхронно берут готовые задачи и масштабируются более адаптивно по мере роста числа подзадач», — поясняют исследователи.

Как DeLM проявляет себя на практике

С помощью DeLM агенты могут избегать избыточных поисков, повторно использовать и развивать открытия и ошибки друг друга, а также концентрироваться на нерешенных проблемах.

Этот фреймворк может быть особенно полезен при масштабировании времени вычислений (test-time scaling) в разработке программного обеспечения, когда моделям дают время «подумать», чтобы улучшить их возможности рассуждения и решения проблем. Различные агенты могут изучать собственные гипотезы или следовать путями рассуждений параллельно, продолжая делиться промежуточными результатами. Одним из примеров является параллельная отладка.

DeLM также подходит для рассуждений с длинным контекстом и ответов на вопросы по нескольким документам (multi-document QA); агенты могут одновременно исследовать собственные кластеры доказательств (коллекции документов, кода или других материалов), сохраняя при этом «глобальное компактное представление» накопленных данных.

Исследователи утверждают, что это делает выполнение агентных задач более точным и значительно более дешевым. Это подтверждается результатами тестов на реальных бенчмарках: на SWE-bench Verified (который оценивает, насколько успешно модели ИИ и агенты справляются с реальными задачами по разработке ПО) система показала результат на 10,5% лучше самого сильного базового варианта и снизила стоимость одной задачи примерно на 50%.

Но возможности выходят за рамки программирования: в LongBench‑v2 Multi‑Doc QA (оценивающем способность LLM справляться с реальными задачами с длинным контекстом) DeLM продемонстрировала самую высокую точность среди четырех семейств моделей, включая GPT‑5.4, Claude Sonnet, Gemini Flash и DeepSeek‑V4‑Pro.

DeLM превосходит другие модели на SWE-Bench <по ряду причин>, как подробно рассказал Мао в X (бывший Twitter).

Во-первых, агенты делятся информацией о неудачах. При обычных параллельных запусках, когда один агент идет по ложному пути, эта ошибка остается конфиденциальной, и последующие агенты могут тратить время (и деньги) на те же тупиковые ветви. Но в DeLM неудачные гипотезы фиксируются в общем контексте.

«Последующие агенты могут читать их как ограничения, избегать повторных поисков и перенаправлять свои усилия на более перспективные исправления», — отметил Мао.

Кроме того, проверенные ограничения немедленно добавляются в общий контекст агентов. Это означает, что они становятся обязательным общим состоянием. «Последующие агенты наследуют их, выстраивают работу вокруг них и избегают повторения глобально неверных упрощений», — пояснил Мао.

Что немаловажно, DeLM поддерживает достаточную компактность общего прогресса для его повторного использования. Система поддерживает функцию развертывания (unfoldable): по умолчанию агенты видят короткие выжимки, но могут при необходимости развернуть их до более подробных сводок и исходных данных.

Как отмечают исследователи, предоставление всех необработанных документов и логов дает агентам максимальный объем информации, однако это может перегрузить их контекстные окна и в конечном итоге увеличить расходы.

«Если бы агенты делились полными логами, каждому воркеру пришлось бы читать длинные истории команд, дампы файлов, неудачные правки и промежуточные рассуждения, превращая саму координацию в еще одно узкое место с длинным контекстом», — сказал Мао.

С другой стороны, хотя обмен компактными сводками обходится дешевле, важные детали и свидетельства могут быть потеряны, что приводит к снижению надежности рассуждений.

Таким образом, развертывание обеспечивает выборочный доступ по принципу «от общего к частному» (coarse-to-fine), что позволяет повысить точность и снизить издержки.

В конечном счете благодаря такому фреймворку, как DeLM, агенты становятся более эффективными, поскольку им не нужно повторно читать одни и тем же документы или перезапускать провальный анализ; более результативными, так как полезные находки распространяются по параллельным потокам; и более надежными, поскольку они делятся только проверенными утверждениями.

Для создателей корпоративных систем DeLM ставит под сомнение ключевое предположение: о том, что любой многоагентный рабочий процесс нуждается в центральном контроллере. Результаты тестов SWE-bench и LongBench-v2 показывают, что децентрализованная модель не просто чище теоретически — она работает быстрее, точнее и обходится примерно вдвое дешевле.