Компании создают управляемые семантические слои. Большинство утверждает, что их ИИ-агенты получают контекст где-то ещё
В корпоративной среде уверенно неверный ответ ИИ-агента может быть связан с чем-то более базовым, чем сама модель: агент не знает, что компания подразумевает под собственными терминами, например что считать выручкой или какая запись о клиенте актуальна.
Трекер VB Pulse отслеживает, как компании реагируют на эту проблему, в рамках трёх отдельных опросов, проводимых с июня. Во всех трёх волнах большинство респондентов сообщают, что используют, тестируют или разрабатывают управляемый семантический слой: 58% в июне, 63% в июле и 67% в августе. Но гораздо меньше респондентов называют этот слой основным источником бизнес-контекста для своих агентов: соответственно, 21%, 19% и 13%.
Проблемы с контекстом по-прежнему широко распространены. Шестьдесят четыре процента участников августовского опроса указали, что за последние шесть месяцев сталкивались с уверенно неверными ответами агентов, вызванными отсутствующим или непоследовательным бизнес-контекстом. В июле таких было 68%, а в июне — 57%.
Агенты получают контекст из других источников
Респонденты назвали несколько разных основных источников бизнес-контекста для своих агентов. 32% указали поиск по документам. Прямые запросы к действующим системам, когда агент выполняет SQL-запрос, обращается к API или MCP-серверу и читает полученные данные, назвали 21% — против 11% в июле, то есть рост настолько значительный, что его нельзя не отметить. Разницу между поиском по документам и прямыми запросами оценить однозначно сложно. 19% назвали загрузку большого контекста — непосредственную передачу в контекстное окно модели большого набора документов или записей. Управляемый семантический слой указали 13%.
Ни прямые запросы, ни загрузка большого контекста по умолчанию не предполагают наличия управляемых бизнес-определений. Прямой запрос может вернуть всё, что хранится в таблице, не объясняя агенту, что означает столбец. Загрузка большого контекста передаёт модели исходные данные, но не обязательно даёт согласованное определение того, что компания подразумевает под собственными терминами. Оба подхода можно сочетать с управляемым слоем, однако опрос не позволяет понять, делают ли так респонденты.
Компании с управляемым слоем чаще сообщают о проблемах с контекстом
В компаниях, которые используют, тестируют или разрабатывают семантический слой, о случаях уверенно неверных ответов агентов сообщают гораздо чаще, чем в компаниях, которые пока только оценивают такую возможность или вовсе не планируют её внедрять: 78% против 37%. В июльской волне отдельного опроса среди 101 респондента выявилась та же закономерность: 89% против 35%. Разница сохраняется, даже если исключить компании, которые не запускают агентов на собственных данных или не отслеживают первопричины ошибок: в августе — 79% против 41%, в июле — 90% против 46%.
VB Pulse не спрашивал респондентов, чем объясняется разница между этими группами. В августовском отчёте предлагаются два возможных объяснения. Первое: семантический слой даёт команде корректное определение, с которым можно сравнить неверный ответ, поэтому такие компании выявляют больше собственных ошибок, а не допускают их чаще. Второе — обратная причинно-следственная связь: возможно, семантический слой начали создавать именно те компании, которые уже сталкивались с проблемами контекста, а не сам слой привёл к появлению разрыва. Опрос не позволяет определить, какое объяснение лежит в основе этой разницы, и влияет ли сам слой на исходную частоту ошибок.
Как поставщики по-разному подходят к этой проблеме
Некоторые поставщики, переходящие к прямым запросам, по-разному выстраивают контекст вокруг этого процесса.
Запущенный в сентябре внутри ChatGPT Work Data agent от OpenAI напрямую подключается к хранилищам, включая Snowflake, Databricks и BigQuery, и за один проход получает контекст из Slack, панелей BI и файловых хранилищ. На вопрос о том, создаёт ли агент постоянный слой контекста для инструментов клиента, Арпан Шах, генеральный директор направления корпоративных технологий OpenAI, сообщил VentureBeat, что нет.
«Он объединяет все различные контексты в своём состоянии, а не создаёт новый слой контекста», — сказал Шах.
Keewano ещё сильнее размывает это различие. Запущенная в сентябре KeewanoDB позволяет агентам напрямую читать необработанные последовательности событий через MCP — именно такой тип прямых запросов измеряет опрос. Однако Марк Кардашов, сооснователь и генеральный директор Keewano, рассказал о семантическом слое, который создаётся на этапе приёма данных с помощью больших языковых моделей и добавляет контекст к каждому событию по мере его поступления. Поэтому прямой запрос к KeewanoDB не обязательно означает, что за ним нет семантического контекста.
Snowflake подходит к той же проблеме со стороны маршрутизации. Работа Cortex AI Gateway компании Snowflake, который сначала автоматически направляет задачу небольшой модели и повышает уровень модели только при необходимости, зависит от того, поступает ли задача уже подготовленной с контекстом. В августе Барыш Гюлтеккин, вице-президент Snowflake по ИИ, объяснил: если контекст недостаточно хорош, модель должна сама выполнять предварительную работу — писать и тестировать SQL-запросы, искать данные и повторять попытки, когда что-то не срабатывает. Это обходится дорого и обычно требует более мощной модели. Предварительная подготовка контекста устраняет этот этап. Snowflake заявляет, что инструменты Horizon Context и Cortex Sense помогают подготовить контекст до того, как модели придётся самостоятельно исследовать данные, а существующие средства контроля доступа Snowflake определяют, какими данными и моделями может пользоваться агент.
«Интересно, что это говорит о том, где теперь формируется отличие от конкурентов, — сказал VentureBeat в августе Санджив Мохан, руководитель SanjMo. — Snowflake продаёт не столько маршрутизацию, сколько маршрутизацию, которая ни разу не выходит за пределы управляемой среды данных, уже снабжённой средствами контроля доступа, тегами и атрибуцией затрат».
Что это значит для компаний
Создание семантического слоя не определяет, какие данные читает агент. Две трети участников августовского опроса сообщили, что их организации используют, тестируют или разрабатывают такой слой. Но даже среди них лишь 20% назвали семантический слой основным источником бизнес-контекста для своих агентов.
Наличие бизнес-контекста за прямым запросом зависит от того, что стоит за ним. Keewano заявляет, что добавляет контекст при приёме данных; Snowflake сочетает подготовку контекста с существующими средствами контроля доступа; а Data agent от OpenAI собирает контекст на лету, не создавая постоянного слоя.
