По мере сближения моделей корпоративное преимущество в сфере ИИ смещается в сторону управляемых данных и платформ, которые их контролируют
При поддержке Box
По мере того как передовые модели искусственного интеллекта становятся все более похожими друг на друга, конкурентное преимущество в корпоративном ИИ смещается от самой модели к данным, к которым она может получить безопасный доступ. Для большинства компаний это преимущество кроется в неструктурированных данных: контрактах, материалах дел, спецификациях продуктов и внутренней базе знаний.
Перед руководителями предприятий больше не стоит вопрос о том, какую модель использовать, но возникает другой: какая платформа управляет контентом, с которым этим моделям разрешено работать.
«Важно уже не то, что делает модель, а собственные неструктурированные данные компании — ее контент, то, как он организован, как регулируется и как предоставляется к нему доступ для ИИ», — говорит Яш Бхавнани (Yash Bhavnani), руководитель направления ИИ в компании Box.
«Организации, которые станут лидерами в сфере ИИ, — это те, которые создали инфраструктуру управления, делающую любую модель надежной, с настроенными правами доступа, доступным нужным контентом и четким журналом аудита для каждого выполненного действия», — отмечает Бен Кус (Ben Kus), технический директор Box.
Корпоративный ИИ должен опираться на защищенные системы учета
Поскольку преимущество в ИИ смещается от моделей к регулируемому контенту, системы учета становятся фундаментом, который делает корпоративный ИИ надежным.
Сотрудники используют передовые модели для суммирования документов, составления отчетов и ответов на вопросы, но когда эти инструменты не связаны с авторитетными внутренними хранилищами, результаты трудно проверить, невозможно проанализировать и они потенциально опасны. ИИ, который не может проследить происхождение своих результатов до контролируемого источника, превращается в фактор риска.
«Это не теоретическая проблема, — говорит Бхавнани. — Для страховой компании, использующей ИИ для анализа клиентских претензий, низкая точность просто неприемлема, а результаты, происхождение которых невозможно отследить, нельзя брать в работу».
Системы учета предоставляют проверенный контент с поддержкой контроля версий, встроенными правами доступа и средствами соблюдения нормативных требований, а конвейеры RAG (дополненной генерации) извлекают данные из актуальных репозиториев во время инференса, связывая ответы напрямую с текущими источниками, происхождение которых можно отследить.
Без интеграции с системами учета сотрудники создают собственные обходные пути, контент дублируется в инструментах, которые не взаимодействуют друг с другом, а теневые хранилища знаний скапливаются вне поля зрения ИТ-отделов и специалистов по комплаенсу.
«Клиенты рассказывают нам, что сотрудники загружают конфиденциальные документы в личные аккаунты и запускают собственные ИИ-процессы без какого-либо контроля со стороны компании за тем, чем делятся и что генерируется, — отмечает он. — Это не просто угроза безопасности, это организационный риск».
Доступ с учетом прав — обязательное условие для агентного ИИ
По мере перехода ИИ к агентным возможностям, когда он автономно выполняет многоэтапные задачи в различных документах, рабочих процессах и корпоративных системах, профиль рисков меняется кардинально. Агенты действуют быстрее людей, часто без контекстного понимания того, к каким данным им следует получать доступ, что делает критически важным доступ с учетом прав.
«ИИ-платформа без учета прав доступа слишком опасна для использования, — говорит Кус. — Это необходимое условие для безопасного развертывания корпоративного ИИ, и чем сильнее создается впечатление, что эта функция была добавлена задним числом, а не заложена в основу, тем больше оснований для беспокойства у компании, рассматривающей такую систему».
В регулируемых отраслях такие стандарты и фреймворки, как HIPAA, FedRAMP High и SOC 2, требуют ведения журналов аудита, соблюдения политик и демонстрируемого контроля над тем, кто и к каким чувствительным данным получил доступ.
«Журнал аудита должен охватывать не только исходные файлы, но и ту сессию ИИ, которая их использовала, причем доступ должен осуществляться с теми же средствами контроля и тем же механизмом шифрования, — говорит Кус. — Мы не хотим, чтобы клиенты столкнулись с нарушением нормативных требований из-за того, что агент изучал конфиденциальные данные, а записи о его работе сохранились где-то в неожиданном месте».
Контент-платформы превращаются в центры управления ИИ
Корпоративные контент-платформы эволюционируют из хранилищ в уровни оркестрации — центры управления ИИ, которые располагаются между моделями, агентами и корпоративными данными. Платформа не просто хранит документы, она регулирует доступ к контенту, направляет его в нужный механизм рассуждений, применяет правила доступа и ведет полный журнал аудита каждого действия.
«Готовая к работе с ИИ контент-платформа должна поддерживать навигацию и использование человеком так, как это было всегда, и в то же время обладать собственными ИИ-агентами, которые достаточно глубоко понимают структуры данных платформы, чтобы извлекать из них максимальную пользу, — говорит Кус. — Она также должна быть достаточно открытой, чтобы к ней мог обратиться любой внешний агент. Открытая экосистема агентов — это будущее того, как будут работать такие платформы».
Когда контент, права доступа, журналы аудита и доступ к приложениям обрабатываются одной и той же платформой, система управления остается неотделимой от самого контента. Единый уровень управления позволяет корпоративному ИИ масштабироваться безопасно в гораздо большей степени, чем любые возможности лежащих в его основе моделей.
Превращение неструктурированного контента в структурированный интеллект
Неструктурированные данные долгое время были камнем преткновения для организаций, которым приходилось создавать специализированные модели для работы с каждым подтипом неструктурированных данных.
«Изменилось то, что универсальные большие языковые модели теперь обладают достаточным интеллектуальным потенциалом для извлечения структурированных данных из неструктурированного контента без столь масштабных индивидуальных инвестиций, — говорит Кус. — Функция Box Extract применяет эти возможности в больших масштабах, автоматически извлекая ключевую информацию из контрактов, форм, претензий и отчетов и преобразуя ее в структурированные метаданные внутри Box. Контент, который раньше должен был читать человек, чтобы извлечь из него пользу, теперь можно обрабатывать, структурировать и использовать для поиска по всему репозиторию».
Как только эти данные извлечены и в системе начинает работать операционная логика, пользователи могут визуализировать эту информацию, искать ее и действовать на ее основе с помощью пользовательских панелей управления и инструментов без написания кода (no-code).
Агенты Box развивают этот подход дальше, обеспечивая многоэтапные рассуждения и выполнение задач на основе корпоративного контента, с постоянными сессиями (persistent sessions), которые поддерживают итеративную работу со знаниями с помощью простых инструкций на естественном языке. А поскольку сессии агентов в Box сохраняются, результаты работы не теряются между сеансами взаимодействия.
Практическим результатом этого является то, что сквозные рабочие процессы, ранее требовавшие координации действий человека в нескольких системах, теперь могут оркестроваться непосредственно в системах учета.
«Когда такие рабочие процессы построены на базе агентов Box и средств автоматизации, работающих непосредственно с контролируемым контентом, передача задач между этапами автоматизируется, журнал аудита создается автоматически, а система учета остается единственным достоверным источником на протяжении всего процесса, — говорит Бхавнани. — Ничто не теряется между системами, потому что система всего одна».
Компании, получающие реальную отдачу, — это не те, которые просто подключили передовую модель и стали ждать результатов. Это те, которые связали ИИ со своими системами учета, установили контроль над тем, к чему он может получить доступ, и создали операционный уровень, который делает результаты его работы достаточно надежными для масштабного использования.
Платформы, объединяющие управление контентом, безопасность, автоматизацию и интеграцию с ИИ в рамках единого уровня, становятся основой для корпоративного ИИ, поскольку возможностей одной лишь модели недостаточно. Без встроенной в платформу системы управления «слепые зоны» между разрозненными системами становятся точкой отказа.
Спонсорские статьи — это материалы, подготовленные компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко маркируются. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.
