Модель Google Gemini Decision 1 оценивает до 1 000 вопросов за один вызов API

Модель Google Gemini Decision 1 оценивает до 1 000 вопросов за один вызов API

Google DeepMind в среду выпустила Gemini Decisions API для разработчиков, которым нужно, чтобы программа быстро выносила серию небольших суждений. Например, система приёма страховых заявлений может отправить в одном запросе отсканированную форму, фотографии повреждений и заметки по итогам звонка клиента. Она может спросить, в какую очередь направить заявление, не хватает ли доказательств и насколько срочно его должен рассмотреть сотрудник. API возвращает ответы и оценки уверенности, которые приложение может использовать для дальнейшей обработки дела.

Новая модель Google, Gemini Decision 1, способна ответить на 1 000 вопросов об одном и том же материале за один проход. Google берёт 0,10 доллара за миллион входных токенов, а вывод бесплатен. Тем самым Google выходит на рынок, где Jev от TypeSafe уже обеспечивает недорогую классификацию, Decisions API от OpenAI работает на GPT-6 Luna, а Strands Decider от Amazon позволяет разработчикам запускать модель на собственной инфраструктуре.

Аргументы в пользу Gemini для корпоративных клиентов начинаются с того, что входит в запрос. Команда, работающая с аудиозаписями, видео и PDF, может оценивать эти файлы вместе. Для команды, распределяющей короткие текстовые обращения, есть более дешёвые облачные варианты, а Artificial Analysis Decision Index ставит Jev и Gemini близко по общему качеству.

Один запрос может охватить целый чек-лист

Руководство по Decisions API описывает три типа вопросов. Проверка «да или нет» возвращает вероятность того, что условие выполняется.

Вопрос с несколькими вариантами выбирает из 2–255 именованных вариантов и сообщает вероятность каждого. Вопрос по рубрике возвращает взвешенную оценку и вероятности по шкале, которую задаёт разработчик.

Приложение может использовать эти вероятности, чтобы направлять неоднозначные случаи человеку или запрашивать суждение у второй модели.

Модель оценивает доступные варианты за один проход по входным данным.

Она может одновременно читать текст, изображения, аудио, видео и PDF, а разработчики могут настраивать разрешение изображений и видео, контролируя, сколько деталей видит модель и сколько токенов расходуют медиафайлы. Лимит в 262 144 токена распространяется на общие данные, а также на инструкции и варианты ответов для всех вопросов.

Каждый вопрос оценивается независимо. Если второе решение зависит от первого, приложение может обработать эту зависимость в коде или сделать повторный вызов. Для таких задач, как составление пояснения или извлечение произвольного номера счёта из файла, по-прежнему нужен отдельный шаг генерации или извлечения.

По словам Google, Gemini Notebook использует модель для маршрутизации запросов между разными моделями и уровнями глубины рассуждений. Компания сообщает о снижении задержки до 40% для рутинных запросов в этом сценарии, где этап маршрутизации позволяет приберечь более медленные модели для сложных запросов.

Страница цен Google учитывает общие входные данные один раз за запрос и тарифицирует токены, добавляемые каждым вопросом. Возьмём запись на 4 000 токенов и 20 проверок по 50 токенов каждая.

По тарифу Google один запрос на 5 000 токенов обходится примерно в 0,50 доллара за 1 000 записей. Двадцать отдельных вызовов, каждый из которых заново отправляет запись, стоили бы 8,10 доллара за 1 000 записей — без учёта повторных попыток и дополнительных вызовов. В примере предполагается, что указанное количество токенов совпадает с выставленным к оплате. Google снова взимает плату за все входные данные, если они повторно используются в отдельном запросе.

Разработчики могут начать с эндпоинта v1beta в Gemini Developer API и бесплатного уровня в Google AI Studio. Google указывает лимиты бесплатного уровня: 200 запросов и 50 000 входных токенов в минуту. Модель также доступна в OpenRouter и Vercel AI Gateway. Vercel рекомендует разработчикам, работающим с аудио, видео или PDF, использовать интеграцию с AI SDK 7. Google сообщает, что поддержка в Gemini в Google Cloud появится в ближайшее время.

Для команд, тестирующих модель на клиентских данных, условия Gemini API разграничивают платный и бесплатный доступ. Google заявляет, что не использует промпты и ответы платного сервиса для улучшения продуктов и хранит логи ограниченное время для контроля соблюдения правил и обязательного раскрытия информации. Условия бесплатного сервиса допускают использование данных для улучшения продуктов, с региональными исключениями.

Лидерство Google в бенчмарках зависит от задачи

В бенчмарках, опубликованных Google при запуске, Gemini Decision 1 лидировала в пяти из семи тестов, которые прошли все четыре модели. Она набрала 92,2% в JevBench, опередив GPT-6 Luna (90,9%) и Jev 1.14 (90,0%).

Jev лидировала в бенчмарке браузерных задач Mind2Web Multimodal — 86,8% против 86,2% — и в When2Call, проверяющем решения об использовании инструментов, — 82,0% против 79,9%.

В двух медиатестах Google сравнила Decision 1 с Gemini 3.5 Flash-Lite. Decision 1 набрала 71,8% против 67,7% в аудиобенчмарке MMAU и 69,1% против 63,3% в Video-MME.

У Decision 1 оказалась самая низкая ошибка калибровки в сравнении Google — 0,0250, примерно вдвое меньше, чем у Jev (0,0494). Калибровка показывает, насколько уверенность модели соответствует тому, как часто она оказывается права.

Это важно, когда порог уверенности определяет, сколько случаев попадёт к проверяющему. Google также сообщает, что прогон общих тестов обошёлся в 0,88 доллара с Decision 1, 0,68 доллара с Jev и 4,14 доллара с Gemini 3.5 Flash-Lite через Interactions API. На этой нагрузке Flash-Lite оказалась примерно в 4,7 раза дороже Decision 1.

Заявленная Google сквозная задержка в 150–250 миллисекунд относится к входным данным объёмом до 16K токенов и мало меняется при росте числа вопросов в запросе с одного до 100. Медианное время вычислений модели в этих условиях Google оценивает в 50–100 мс. Командам, которые планируют использовать полное контекстное окно или лимит в 1 000 вопросов, стоит самостоятельно измерить время обработки своих файлов и чек-листов, включая время загрузки медиа.

Независимый Artificial Analysis Decision Index v2.1 на момент запуска поставил Gemini на девятое место из 18. Индекс объединяет шесть оценок, включая анализ документов, вызов инструментов, знания и рассуждения. Показатель задержки — взвешенное среднее медиан по тестам, а столбец стоимости оценивает, во сколько обошёлся бы миллион задач из этого набора тестов по опубликованным тарифам моделей.

Модель

Оценка Decision Index

Время на задачу

Стоимость миллиона задач

Drex Max v1.1

72,62

283 мс

103 доллара

Jev 1.14

66,23

92 мс

156 долларов

Gemini Decision 1

65,98

211 мс

345 долларов

GPT-6 Luna (Decisions)

60,25

206 мс

339 долларов

Clef-Omni

57,75

192 мс

529 долларов

Gemini лидировала в тестах на знания и рассуждения в независимом наборе. В AA-Paperclip, где задаётся 15 вопросов о каждом резюме, научной статье, счёте или чеке, Gemini ответила правильно на все вопросы по 33% документов против 35,5% у Jev и 63% у Drex Max v1.1.

Для процесса, где каждое поле или проверка должны быть верными, важна именно эта метрика «всё или ничего», даже если отдельные ответы получают высокие оценки. В прогоне When2Call от Artificial Analysis Drex Max показала точность 94,6%, а среди этих трёх моделей за ней следовали Jev с 80,8% и Gemini с 75,2%.

Jev дешевле для маршрутизации текста, а OpenAI может повторно использовать контекст между вызовами

TypeSafe оценивает Jev 1.14 в 0,042 доллара за миллион входных токенов при бесплатном выводе. Как и Gemini, модель может оценивать несколько вопросов об общей записи за один вызов. Стандартные лимиты Jev — 64K токенов на весь запрос и 32K на общие данные плюс любой отдельный вопрос.

Экспериментальная настройка повышает оба лимита до 262K. Jev принимает текст и структурированный JSON, а опциональная поддержка изображений позволяет прикреплять PNG или JPEG к общим данным или к отдельному вопросу. Версия 1.14 также добавляет экспериментальный ответ в виде ограничивающей рамки для определения положения объекта на изображении. Для коротких обращений в поддержку или рутинного выбора инструментов цена Jev и её результат в 92 мс в независимом наборе тестов делают её хорошей отправной точкой.

OpenAI открыла общий доступ к своему Decisions API 22 октября. GPT-6 Luna — единственная поддерживаемая модель на этом эндпоинте. Запрос может содержать до 400 вопросов и использовать в качестве данных текст, изображения, нативный JSON или записи предыдущих вызовов инструментов. Изображения можно добавлять и в отдельные вопросы.

Разработчик, сравнивающий фотографии товаров с общим эталоном, может прикрепить к каждому вопросу своё изображение. Для голосовых приложений интеграция с GPT-Live от OpenAI позволяет запускать решения по частичным транскриптам.

OpenAI берёт 0,10 доллара за миллион некэшированных входных токенов и 0 долларов за вывод, что совпадает с базовым тарифом Google. Чтение из кэша стоит 0,01 доллара за миллион токенов, запись в кэш оплачивается отдельно. Это даёт командам вариант экономии, когда они многократно отправляют одно и то же руководство по политикам, каталог товаров или эталонное изображение в разных запросах. Повторно используемый префикс должен содержать не менее 1 024 совпадающих токенов, а содержимое конкретного вопроса находится вне этого префикса. На итоговый счёт также могут влиять региональная обработка и тарифы для длинного контекста. OpenAI предусматривает Zero Data Retention для соответствующих клиентов и региональную обработку в США, Европейской экономической зоне и Швейцарии.

Ещё двух претендентов стоит рассмотреть, если они подходят по типам входных данных. Drex Max v1.1 от Nace AI стоит 0,03 доллара за миллион входных токенов и принимает текст, JSON и изображения, поэтому результаты независимых тестов по документам и использованию инструментов стоит сверить с собственными задачами компании.

Для аудио и видео Clef-Omni от Cloudflare поддерживает оба формата, предлагает окно в 64 000 токенов на Workers AI и стоит там 0,15 доллара за миллион входных токенов. Cloudflare также публикует веса модели, что даёт командам второй вариант, если оценку медиа нужно выполнять в собственной среде.

Strands от Amazon делает самостоятельный хостинг реальной альтернативой

Amazon выпустила Strands Decider 2B в октябре, о чём VentureBeat сообщал в момент запуска. Её текущий чекпоинт 2B на базе Qwen3.5 поддерживает вопросы «да или нет», с несколькими вариантами и по рубрике для текста.

Модель распространяется по лицензии Apache 2.0 вместе с кодом для развёртывания и рецептом обучения. Команды могут запускать её на CPU или GPU, оплачивая собственные вычисления и эксплуатацию. Это актуально для компаний, которые хотят, чтобы этап принятия решений оставался внутри их собственной сети.

Amazon сообщает о точности 77,9% для чекпоинта 2B на 231 публичной задаче JevBench v1 при окне в 4 096 токенов. Её более ранний чекпоинт v19 отвечал на один вопрос за 115 мс по медиане и 299 мс на 95-м процентиле на локальной RTX 3090. Более поздние варианты Amazon на базе Gemma 4 показывают точность от 77,9% до 89,6% на том же публичном наборе тестов.

Google и Amazon приводят результаты JevBench из разных прогонов. Покупателю, выбирающему между этими вариантами, следует протестировать одни и те же вопросы на обоих развёртываниях и измерить полное время от запроса до ответа.

Внутреннее развёртывание Amazon для маршрутизации тикетов нагляднее показывает, как может окупиться самостоятельный хостинг. Инженеры запускали Strands Decider E4B параллельно с Claude Sonnet 4.6, прежде чем сменить модель, присваивающую метки. Они сократили критерии для 20 меток и обрезали самые старые комментарии в длинных тикетах, чтобы уложиться в возможности модели.

По данным Amazon, среднее время на вызов сократилось примерно с 4,2 до 0,9 секунды. По опубликованным ценам AWS и с учётом наблюдаемой загрузки инстансов команда оценила стоимость примерно в 500 долларов за миллион тикетов против 22 200 долларов в процессе на Sonnet. Покупателю, рассматривающему такой подход, придётся рассчитать стоимость собственных мощностей и рабочего времени персонала на их поддержку.

Где разместить модель принятия решений в продакшене

Gemini хорошо подходит для первого пилота, когда один объект поступает в нескольких форматах и запускает чек-лист. Контакт-центр может отправить запись разговора с метаданными заказа и попросить модель определить проблему, выбрать очередь для проверки и отметить, прозвучало ли в звонке обязательное уведомление.

В процессе оценки повреждений по фотографиям тот же запрос может сверить данные из формы с несколькими снимками. В обоих случаях проверяйте решения по отдельности. Хороший результат в маршрутизации по очередям мало говорит о том, как часто модель будет пропускать редкое уведомление.

Разработчики агентов могут разместить модель принятия решений непосредственно перед вызовом инструмента. Спросите, уместен ли предлагаемый инструмент, присутствует ли в разговоре нужная деталь и должен ли человек проверить действие. Предусмотрите явный вариант эскалации для случаев, не охваченных доступными вариантами.

Контроль доступа, требования к согласованию и лимиты транзакций держите в коде приложения. В одном тесте на промпт-инъекции, описанном VentureBeat, одно подброшенное поле снизило вероятность того, что Jev заблокирует действие, с 0,76 до 0,48.

Прежде чем позволить модели изменять клиентские записи, запустите её параллельно с существующим процессом. Используйте размеченные примеры из реального трафика, включая редкие случаи и некачественно снятые медиа. Задайте пороги уверенности для каждого решения и каждой модели.

В вопросе с несколькими вариантами Google использует вероятность выбранного варианта как оценку уверенности. В примере TypeSafe Jev присваивает варианту вероятность 0,61 и возвращает оценку уверенности 0,42.

Отслеживайте долю случаев, уходящих на проверку, ошибки среди случаев, обрабатываемых моделью автоматически, и сквозную задержку на 95-м процентиле. Для короткого текста прогоните Jev или Drex на том же наборе.

Для записей и видео сравните Gemini и Clef-Omni на одних и тех же фрагментах и измерьте, сколько токенов тарифицирует каждый сервис. Добавьте Luna, если приложение может повторно использовать длинный эталон в разных запросах, и Strands, если вы можете развернуть её в собственной среде.

Сравнивайте стоимость и время на каждый правильно обработанный случай, включая случаи, которые всё равно требуют участия человека.

Технологии

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.