Databricks усиливает ИИ с помощью GEPA и сокращает расходы в 90 раз

Использование правильной модели и правильного промпта — это лишь часть проблемы корпоративного ИИ, критически важной задачей также является оптимизация самого промпта.

Эту задачу Databricks стремится решить с помощью своей технологии Agent Bricks, представленной еще в июне. Эта технология постоянно совершенствовалась, и сегодня Databricks раскрыла новые методы, которые она использует для дальнейшей оптимизации промптов. Новое исследование компании, опубликованное сегодня, демонстрирует, как ее метод GEPA (Generative Evolutionary Prompt Adaptation — генеративная эволюционная адаптация промптов) повышает эффективность оптимизации промптов на порядок. В Databricks утверждают, что усовершенствование Agent Bricks теперь позволяет предприятиям снизить стоимость работы моделей до 90 раз.

Прорыв в оптимизации промптов происходит на фоне заключения партнерского соглашения между Databricks и OpenAI на сумму 100 миллионов долларов. Это соглашение делает GPT-5 доступной нативной для корпоративных клиентов Databricks, следуя аналогичным сделкам, которые Databricks ранее заключила с Anthropic и Google. Следует уточнить, что ни Databricks, ни OpenAI не выплачивают друг другу 100 миллионов долларов; эта цифра отражает ожидаемый Databricks потенциальный доход, который принесет партнерство.

Хотя интеграция и партнерство с OpenAI заслуживают внимания, главная новость заключается в том, что исследования Databricks и передовые методы оптимизации промптов доказывают: предприятиям не обязательно переплачивать за премиальную производительность ИИ.

«Оптимизация промптов — это на самом деле не просто взятие существующего запроса и оптимизация его выполнения, это изменение самого запроса», — рассказал VentureBeat Ханьлинь Тан (Hanlin Tang), технический директор по нейронным сетям в Databricks. — «Это звучит так: каков наилучший способ задать LLM вопрос, чтобы получить желаемый ответ высокого качества?»

GEPA переписывает правила оптимизации

Прорывной метод называется GEPA (Generative Evolutionary Prompt Adaptation), он разработан исследователями из Databricks и Калифорнийского университета в Беркли. В отличие от традиционной донастройки (fine-tuning), которая корректирует веса модели, GEPA оптимизирует вопросы, которые предприятия задают системам ИИ.

Этот подход повторяет паттерны человеческого общения.

«В мире LLM есть разные способы задать LLM один и тот же вопрос, верно? Точно так же, как есть разные способы задать вам вопрос в тесте», — отметил Тан. — «Существует около 10 различных способов задать вопрос о каком-то конкретном факте».

В GEPA используется подход, называемый рефлексией на естественном языке, при котором ИИ критически оценивает собственные результаты и итеративно улучшает их. Этот цикл обратной связи автоматически находит оптимальные стратегии промптинга для конкретных корпоративных задач.

Результаты в сфере финансов, юриспруденции, коммерции и здравоохранения показывают, что модели, оптимизированные с помощью GEPA, стабильно превосходят базовые показатели на 4–7 процентных пунктов.

Переписывая экономику корпоративного ИИ

Изменение затрат поражает в масштабах предприятия. При обработке 100 000 запросов оптимизированная опенсорсная модель от Databricks обеспечивает превосходное качество при стоимости обслуживания, составляющей 1/90 от стоимости Claude Opus 4.1.

«Если вы способны оптимизировать промпты для повышения качества модели применительно к вашей задаче, вы также можете использовать это, чтобы подтянуть меньшую модель до нужного вам качества, и в итоге существенно сэкономить», — заметил Тан.

Преимущество нарастает по мере увеличения объемов. Для рабочих нагрузок, обрабатывающих 10 миллионов запросов, разовые затраты на оптимизацию становятся ничтожно малы по сравнению с расходами на обслуживание.

GEPA также превосходит контролируемую донастройку (supervised fine-tuning) — нынешний золотой стандарт кастомизации моделей — и при этом снижает затраты на обслуживание на 20%. Этот метод также экономит инженерные ресурсы.

«Это также экономит массу времени инженерам и специалистам по данным, поскольку обычно они тратят много времени на промптинг, написание правильного промпта и формулирование вопроса для модели», — пояснил Тан. — «В данном случае система может автоматически определить лучший способ запроса к модели».

Интеграция с OpenAI устраняет сложность

Хотя оптимизация GEPA может повысить производительность любой модели, этот метод становится еще более мощным, когда предприятия могут легко получать доступ к нескольким высококачественным моделям и экспериментировать с ними. Именно здесь партнерство с OpenAI создает мультипликативный эффект.

«Самый важный компонент для нас и для OpenAI заключается в том, что теперь модели OpenAI доступны нативно на платформе Databricks», — сказал Тан. — «Любой клиент Databricks может отправлять запросы к этим моделям OpenAI GPT-5 без сторонних партнерских отношений и без ключа API».

Интеграция выходит за рамки простого доступа через API. Предприятия могут вызывать GPT-5 непосредственно в командах SQL. «Они могут легко выполнить команду SQL и просто сослаться в ней на GPT-5, чтобы попросить ее перевести строку в таблице или сделать что-то подобное», — пояснил Тан.

Эта нативная интеграция устраняет административную нагрузку по управлению поставщиками, которая раньше осложняла развертывание моделей премиум-класса. «Это просто часть вашего плана Databricks. Вам не нужно создавать ключ API где-то еще», — подтвердил Тан.

Партнерство подкрепляет мультимодельную стратегию Databricks наряду с уже существующими интеграциями Anthropic и Google Gemini.

«Мы выступаем за то, чтобы Databricks оставалась мультимодельной платформой», — подчеркнул Тан.

План действий для предприятий

Техническим директорам и лицам, принимающим решения, следует выделить три приоритетных шага:

Сначала создайте надежную систему оценки: Главный совет Тана: «Одна из суперспособностей Agent Bricks заключается в том, что она создает пользовательские оценки для вашей конкретной задачи. Я бы рекомендовал предприятиям сначала создавать агенты — вам не стоит действовать вслепую, не зная качества ваших агентов».

Поставьте под сомнение стандарты донастройки: Поскольку оптимизация промптов не уступает или даже превосходит результаты контролируемой донастройки при более низких затратах, предприятиям следует оценивать оба подхода, а не слепо полагаться на традиционную донастройку.

Переосмыслите закупку моделей: Возможность посторговой оптимизации меняет подход к принятию решений о покупке. Более доступная модель, оптимизированная для достижения передовой производительности, может обеспечить лучшую ценность, чем изначальная покупка премиального решения.

Для компаний, стремящихся занять лидирующие позиции в развертывании ИИ, сигнал очевиден: барьер стоимости на пути к передовой производительности ИИ рухнул. Первые последователи, которые инвестируют в возможности оптимизации сейчас, получат все более непреодолимые конкурентные преимущества по мере непрерывного совершенствования своих систем ИИ.