ИИ-агент по работе с данными от OpenAI, созданный двумя инженерами, теперь обслуживает тысячи сотрудников — и в компании утверждают, что его может воссоздать каждый

ИИ-агент по работе с данными от OpenAI, созданный двумя инженерами, теперь обслуживает тысячи сотрудников — и в компании утверждают, что его может воссоздать каждый

Когда в прошлом году финансовому аналитику OpenAI потребовалось сравнить доходы по регионам и клиентским сегментам, на это ушло несколько часов работы: поиск по 70 000 наборов данных, написание SQL-запросов, проверка схем таблиц. Сегодня тот же аналитик вводит простой вопрос на обычном английском языке в Slack и получает готовый график за считанные минуты.

Инструмент, лежащий в основе этой трансформации, был создан двумя инженерами всего за три месяца. Семьдесят процентов его кода написал искусственный интеллект. И теперь им ежедневно пользуются тысячи сотрудников OpenAI, что делает это внедрение одним из самых масштабных развертываний AI-агента по работе с данными в любой компании мира.

В эксклюзивном интервью VentureBeat Эмма Тан, руководитель отдела инфраструктуры данных в OpenAI, команда которой создала этого агента, приоткрыла завесу тайны над внутренней системой: как она работает, в чем ее сбои и что это говорит о будущем корпоративных данных. Эта беседа в сочетании с блогером компании (статьей в блоге), анонсирующей инструмент, рисует картину организации, которая обратила собственный ИИ против себя самой и обнаружила то, с чем вскоре столкнется каждое предприятие: узким местом на пути к созданию более умных структур являются не лучшие модели, а лучшие данные.

«Агент используется для любых видов анализа, — отметила Тан. — Практически каждая команда в компании применяет его в работе».

Интерфейс на обычном английском для 600 петабайт корпоративных данных

Чтобы понять, почему OpenAI создала эту систему, представьте масштабы проблемы. Платформа данных компании насчитывает более 600 петабайт в 70 000 наборов данных. Даже поиск нужной таблицы может отнять у дата-сайентиста несколько часов. Команда платформы данных Тан, которая входит в состав инфраструктурного подразделения и курирует системы больших данных, потоковую передачу и уровень инструментов для работы с данными, обслуживает колоссальную внутреннюю базу пользователей. «В OpenAI сейчас работает 5000 человек, — рассказала Тан. — Более 4000 из них пользуются инструментами для работы с данными, которые предоставляет наша команда».

Агент, созданный на базе GPT-5.2 и доступный везде, где сотрудники уже привыкли работать — в Slack, веб-интерфейсе, средах разработки (IDE), интерфейсе командной строки Codex (Codex CLI) и внутреннем приложении ChatGPT компании — принимает вопросы на обычном английском языке и возвращает графики, панели мониторинга и развернутые аналитические отчеты. В последующих комментариях, предоставленных VentureBeat не для цитирования, команда оценила экономию времени в пределах от двух до четырех часов на один запрос. Тем не менее Тан подчеркнула, что главный плюс сложнее поддается измерению: агент открывает людям доступ к анализу, который они просто не смогли бы выполнить раньше, независимо от того, сколько у них было времени.

«Инженеры, специалисты по росту, продуктовые команды, а также нетехнические сотрудники, которые могут не знать всех тонкостей корпоративных систем данных и схем таблиц», теперь могут самостоятельно получать глубокие аналитические инсайты, отметила ее команда.

От детализации доходов до отладки задержек: один агент на все случаи жизни

Тан привела несколько конкретных примеров использования, иллюстрирующих возможности агента. Финансовый отдел OpenAI запрашивает у него сравнение доходов по географическим регионам и когортам клиентов. «Можно буквально в обычном текстовом сообщении отправить запрос агенту, и он сможет ответить, предоставив графики и дашборды, — все это», — пояснила она.

Но настоящая сила кроется в стратегическом многоэтапном анализе. Тан описала недавний случай, когда пользователь обнаружил расхождения между двумя дашбордами, отслеживающими рост числа подписчиков Plus. «Агент данных может построить график и показать в виде ранжированных списков, в чем именно заключаются различия, — сказала она. — Выяснилось, что факторов было пять. Для человека на это ушли бы часы, если не дни, но агент справляется за пару минут».

Продуктовые менеджеры используют его для понимания того, как пользователи осваивают новые функции. Инженеры применяют его для диагностики снижения производительности, например, задавая вопрос, действительно ли конкретный компонент ChatGPT работает медленнее, чем вчера, и если да, то какие именно факторы задержки вызывают эти изменения. Агент способен разложить все по полочкам и сравнить предыдущие периоды на основе одного-единственного запроса.

Что делает этот инструмент особенно необычным, так это то, что он работает поверх организационных барьеров. Большинство современных корпоративных ИИ-агентов изолированы внутри конкретных отделов: финансовый бот здесь, HR-бот там. Решение от OpenAI пронизывает всю компанию по горизонтали. Тан рассказала, что запуск происходил поэтапно, от отдела к отделу, с формированием специфической памяти и контекста для каждой группы, но «в определенный момент все оказалось в одной базе данных». Высшее руководство может объединить данные о продажах с инженерными метриками и продуктовой аналитикой в рамках одного запроса. «Это наша поистине уникальная особенность», — подчеркнула Тан.

Как Codex решил самую сложную проблему корпоративных данных

По собственному признанию Тан, поиск нужной таблицы среди 70 000 наборов данных — это самая сложная техническая задача, с которой сталкивается ее команда. «В этом главная трудность работы с агентом», — заявила она. И именно здесь Codex — ИИ-агент OpenAI для написания кода — играет свою самую новаторскую роль.

Codex выполняет в системе тройную функцию. Пользователи обращаются к агенту данных через Codex посредством протокола MCP. Команда использовала Codex для генерации более 70% кода самого агента, что позволило двум инженерам выпустить продукт за три месяца. Но третья роль является самой технически увлекательной: это ежедневный асинхронный процесс, в ходе которого Codex изучает важные таблицы данных, анализирует лежащий в их основе код конвейеров (пайплайнов) и определяет восходящие и нисходящие зависимости каждой таблицы, право владения, детализацию, ключи соединения (join keys) и похожие таблицы.

«Мы даем ему промпт, заставляем Codex изучить код и выдать то, что нам нужно, а затем сохраняем это в базе данных», — пояснила Тан. Когда позже пользователь спрашивает о доходах, агент выполняет поиск по векторной базе данных, чтобы найти, какие именно таблицы Codex уже связал с этим понятием.

Это «обогащение с помощью Codex» (Codex Enrichment) представляет собой один из шести контекстных слоев, используемых агентом. Слои варьируются от базовых метаданных схем и тщательно отобранных экспертных описаний до институциональных знаний, извлеченных из Slack, Google Docs и Notion, а также обучаемой памяти, которая хранит исправления из предыдущих диалогов. Если никакой предварительной информации не существует, агент обращается к активным запросам к хранилищу данных.

Команда также ранжирует исторические паттерны запросов. «Вся история запросов у каждого сводится к классическому «select star, limit 10». Это не очень-то полезно», — отметила Тан. Канонические дашборды и исполнительные отчеты, при создании которых аналитики приложили значительные усилия для поиска правильного представления, получают статус «источника правды». Все остальное понижается в приоритете.

Промпт, который заставляет ИИ сбавить обороты и подумать

Даже имея шесть контекстных слоев, Тан была удивительно откровенна в отношении главного поведенческого изъяна агента: излишней самоуверенности. С этой проблемой знаком каждый, кто работал с большими языковыми моделями.

«Это действительно серьезная проблема, потому что модель часто ведет себя излишне самоуверенно, — сказала Тан. — Она заявляет: «Это правильная таблица», — и сразу же бросается выполнять анализ. На самом деле это неверный подход».

Решение было найдено с помощью промпт-инжиниринга, который зануждает агента задерживаться на этапе исследования. «Мы обнаружили, что чем больше времени он тратит на сбор возможных сценариев и сравнение того, какую таблицу лучше использовать — просто проводит больше времени на этапе исследования, — тем лучше результаты», — пояснила она. Инструкция в промпте выглядит почти как наставление для начинающего аналитика: «Прежде чем сломя голову бежать выполнять это, я хочу, чтобы ты тщательнее проверил, действительно ли это нужная таблица. Поэтому, пожалуйста, изучи больше источников, прежде чем переходить к созданию реальных данных».

Путем тщательного тестирования команда также выяснила, что меньший объем контекста может давать лучшие результаты. «Очень легко свалить всё в кучу и ожидать, что модель станет работать лучше, — говорит Тан. — Наши тесты показали прямо противоположное. Чем меньше данных вы передаете и чем более тщательно отобран и точен контекст, тем выше качество результатов».

Для укрепления доверия агент транслирует пользователям свои промежуточные рассуждения в реальном времени, показывает, какие таблицы он выбрал и почему, а также дает прямые ссылки на результаты базовых запросов. Пользователи могут прерывать агента прямо во время анализа, чтобы скорректировать его действия. Кроме того, система сохраняет контрольные точки (чекпоинты) прогресса, что позволяет возобновлять работу после сбоев. А по завершении каждой задачи модель оценивает собственную производительность. «Мы спрашиваем модель: «Как ты считаешь, как все прошло? Это хорошо или плохо?» — рассказала Тан. — И она действительно неплохо оценивает качество своей работы».

Намеренно простые защитные механизмы — и удивительно эффективные

Что касается безопасности, Тан применила прагматичный подход, который может удивить компании, ожидающие сложных методов выравнивания ИИ.

«Я думаю, нужно использовать еще более простые, «тупые» защитные механизмы, — отметила она. — У нас действует очень надежный контроль доступа. Агент всегда использует ваш личный токен, поэтому вам доступно ровно то, к чему у вас есть личные права».

Агент функционирует исключительно как интерфейсный уровень, наследуя те же разрешения, которые регулируют доступ к данным OpenAI. Он никогда не появляется в публичных каналах — только в закрытых или в собственном интерфейсе пользователя. Права на запись ограничены временной тестовой схемой, которая периодически очищается и не может быть расшарена. «Мы также не позволяем ему хаотично производить запись в системы», — добавила Тан.

Обратная связь от пользователей замыкает цикл. Сотрудники напрямую сообщают о некорректных результатах, и команда проводит расследование. Самооценка модели добавляет еще один уровень проверки. В более долгосрочной перспективе, по словам Тан, планируется переход к мультиагентной архитектуре, где специализированные агенты будут следить друг за другом и оказывать взаимную помощь. «Со временем мы придем к этому, — сказала она, — но и сейчас, в нынешнем виде, мы уже зашли довольно далеко».

Почему OpenAI не станет продавать этот инструмент, но хочет, чтобы вы создали свой собственный

Несмотря на очевидный коммерческий потенциал, представители OpenAI сообщили VentureBeat, что компания не планирует превращать своего внутреннего агента данных в полноценный коммерческий продукт. Стратегия заключается в предоставлении строительных блоков, чтобы предприятия могли создавать собственные решения. При этом Тан четко дала понять, что все инструменты, которые ее команда использовала для создания системы, уже доступны извне.

«Мы используем все те же API, которые доступны внешним разработчикам, — сказала она. — Responses API, Evals API. У нас нет дообученной (fine-tuned) модели. Мы просто используем 5.2. Так что вы абсолютно точно можете построить это сами».

Этот подход согласуется с общей корпоративной стратегий OpenAI. В начале февраля компания запустила OpenAI Frontier — комплексную платформу для создания и управления ИИ-агентами на предприятиях. С техdamping пор она привлекла McKinsey, Boston Consulting Group, Accenture и Capgemini для продвижения и внедрения своей платформы Frontier AI agent. AWS и OpenAI совместно разрабатывают среду выполнения с сохранением состояния (Stateful Runtime Environment) для Amazon Bedrock, которая дублирует некоторые возможности постоянного контекста, реализованные OpenAI в своем агенте данных. А компания Apple недавно интегрировала Codex непосредственно в Xcode.

Согласно информации, предоставленной VentureBeat компанией OpenAI, Codex теперь используется 95% инженеров OpenAI и проверяет все запросы на слияние (pull requests) перед их объединением в кодовую базу. Глобальная база активных пользователей сервиса за неделю утроилась с начала года, превысив один миллион. Общее использование выросло более чем в пять раз.

Тан описала изменение в том, как сотрудники используют Codex — оно уже далеко вышло за рамки обычного программирования. «Codex больше даже не инструмент для написания кода. Это гораздо больше», — сказала она. «Я вижу, как нетехнические команды используют его для упорядочивания мыслей, создания презентаций и составления ежедневных сводок».

Один из ее инженерных менеджеров каждое утро поручает Codex просматривать ее заметки, выявлять важнейшие задачи, подтягивать сообщения из Slack и личных чатов, а также готовить проекты ответов. «Во многих смыслах он действительно действует от ее имени», — отметила Тан.

Неприглядная предпосылка, которая определит победителя в гонке ИИ-агентов

На вопрос о том, какой главный вывод другие компании должны сделать из опыта OpenAI, Тан указала вовсе не на возможности моделей или изощренный промпт-инжиниринг. Она упомянула кое-что гораздо более банальное.

«Это звучит не так уж привлекательно, но для эффективной работы ИИ-агентов критически важна грамотная культура управления данными (data governance)», — подчеркнула она. — Ваши данные должны быть достаточно чистыми и аннотированными, а где-то должен существовать единый источник правды, который агент сможет сканировать».

Базовая инфраструктура — уровни хранения, вычислений, оркестрации и бизнес-аналитики — не была заменена агентом. Ему по-прежнему необходимы все эти инструменты для выполнения своей работы. Однако он выступает в роли принципиально новой точки входа для аналитики данных — более автономной и доступной, чем все, что существовало до него.

Тан завершила интервью предупреждением для компаний, которые медлят. «Компании, которые внедрят это, увидят результаты очень быстро, — сказала она. — А те, кто не станет этого делать, безнадежно отстанут. Произойдет разрыв. Компании, которые используют ИИ, будут продвигаться вперед очень и очень быстро».

На вопрос о том, не беспокоит ли такое ускорение ее собственных коллег — особенно после волны недавних увольнений в таких компаниях, как Block — Тан на мгновение задумалась. «Объемы того, что мы способны сделать как компания, выросли, — сказала она, — но это все равно не поспевает за нашими амбициями, даже ни на йоту».

Оркестрация

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.