Новое обновление Claude Tag от Anthropic позволяет агенту в Slack читать весь диалог и вмешиваться без запроса

Новое обновление Claude Tag от Anthropic позволяет агенту в Slack читать весь диалог и вмешиваться без запроса

Источник: VentureBeat · Michael Nuñez

Anthropic делает расчетливую ставку на то, что главным узким местом корпоративного ИИ является вовсе не уровень интеллекта моделей, а тот факт, что большинство людей до сих пор используют ИИ в одиночку.

В эксклюзивном интервью VentureBeat Скотт Уайт (Scott White), руководитель продуктового направления Anthropic по работе с корпоративными клиентами, изложил концепцию компании, которую она называет «многопользовательским ИИ» (multiplayer AI): это переход от парадигмы чат-бота для одного пользователя к ИИ-агентам, которые действуют в масштабах команд, считывают контекст организации и проактивно подключаются к работе — порой без предварительного запроса.

Эта стратегия оформилась в начале этого месяца, когда Anthropic обновила Claude Tag — своего агента, интегрированного в каналы Slack. Теперь он анализирует контекст всех разговоров целиком, а не оценивает сообщения по одному. По заявлению компании, это нововведение примерно на 30% повысило способность Claude правильно определять, когда — и, что критически важно, когда именно не стоит — вмешиваться в беседу без приглашения.

Это может прозвучать как рядовое обновление продукта. Однако Уайт утверждает, что речь идет о чем-то более фундаментальном: о моменте, когда ИИ перестает быть инструментом для индивидуальных консультаций и становится полноценным коллегой, которого нанимает организация.

«Раньше Claude воспринимался как ваш личный руководитель аппарата, — рассказал Уайт в интервью VentureBeat. — Теперь же, в контексте внедрения на уровне всей организации, Claude ощущается как руководитель аппарата самой компании».

Как корпоративный ИИ прошел путь от автодополнения кода до реализации бизнес-целей компании

Уайт выделяет три четких этапа эволюции индустрии, и его описание одновременно служит дорожной картой того, куда Anthropic направляет свои корпоративные продукты.

По его словам, в самом начале ИИ решал «часть одной задачи» — отвечал на вопрос в чате или дописывал одну строку кода в среде разработки (IDE). По мере совершенствования модели перешли к выполнению целых задач: написанию функции целиком, подготовке аналитического отчета или составлению документа на основе множества источников данных.

«Я думаю, сейчас мы находимся на этапе перехода к тому, что я назвал бы проектами или целями, — отметил Уайт. — Модели и уровень интеграции с системами стали достаточно развитыми, чтобы решать более сложные абстрактные задачи — например, поддерживать наш продукт в свободном от багов состоянии или ускорять процесс проверки юридических соглашений о неразглашении (NDA). При этом модель может работать преимущественно в фоновом режиме, связывая различные источники данных и автономно двигаясь к тому, что она считает своей целью».

Уайт утверждает, что именно этот сдвиг заставляет ИИ становиться многопользовательским. Цели, в отличие от простых задач, неизбежно затрагивают интересы нескольких людей. При этом интеллектуальный труд — в отличие от разработки ПО, где десятилетиями выстраивалась инфраструктура для совместной работы на базе Git и pull-запросов — не имеет эквивалентной базы.

«Интеллектуальная работа гораздо сложнее и хаотичнее программирования, — говорит Уайт. — В ней задействовано много людей. Много разных ролей. Множество связанных систем с различными уровнями доступа… Результат или выходные данные тоже не так просто проверить, как код. Код может пройти тесты и скомпилироваться на вашей машине, и вы можете дорабатывать его до тех пор, пока он не начнет работать детерминированно. С интеллектуальным трудом так не всегда получается. Здесь требуется человеческое суждение, чтобы оценить, соответствует ли результат стандартам качества».

Три технических прорыва, сделавших возможным появление проактивных ИИ-агентов

На вопрос о том, что именно сделало возможным переход к многопользовательскому ИИ, Уайт указал на три кита, которые сформировались за последние два года. Первый — это возможности подключения. Протокол контекста моделей Model Context Protocol (MCP), представленный Anthropic в конце 2024 года и впоследствии принятый конкурентами в лице OpenAI и Google в 2025 году, превратился в то, что Уайт назвал «USB-C для ИИ-коннекторов», предоставив Claude регламентированный доступ к корпоративным системам данных.

Второй элемент — это порог интеллектуального развития моделей, при котором проактивность становится полезной, а не раздражающей. «Когда вы подключены ко всем этим разрозненным системам, вам необходимо уметь соединять точки между данными, поступающими из самых разных источников, чтобы затем проактивно вмешаться и сказать: «Кажется, я обнаружил проблему, которую могу для вас решить»», — пояснил Уайт. «Вам действительно нужен совершенно новый уровень интеллекта модели, и я думаю, что мы добрались до него только в последнее время».

Третий фактор — это форм-фактор: внедрение Claude туда, где совместная работа уже происходит естественным образом. Уайт охарактеризовал интеграцию со Slack как «новаторское партнерство, которое мы заключили, чтобы обеспечить присутствие Claude в качестве агента» — агента, обладающего собственной федеративной идентичностью, правами доступа, осведомленностью о каналах и контекстом, подключенным через MCP.

Обновление Claude Tag демонстрирует, как именно объединяются эти элементы. Раньше легковесный классификатор оценивал каждое сообщение в Slack изолированно и принимал бинарное решение о том, должен ли Claude отвечать. Теперь Anthropic полностью отказалась от этого классификатора. Claude считывает полный контекст канала — а также свою память и постоянные инструкции — и выбирает одно из четырех действий: ответить внутри беседы (inline), запустить более глубокую работу в ветке (thread), перенаправить сообщение в существующий рабочий процесс или промолчать. В анонсе Anthropic приводится показательный пример: два инженера ищут один и тот же баг с противоположных сторон, не обращаясь к Claude напрямую. Если читать их сообщения по отдельности, ни одно из них не требует ответа. Но если сопоставить их, выясняется, что у одного инженера есть гипотеза, а у другого — доказательства; тогда Claude открывает ветку, в которой расследование уже запущено. Примечательно, что компания заложила в систему элемент осознанного сдерживания. «Назойливый агент хуже бесполезного», — написали представители Anthropic в своем заявлении, отметив, что Claude переходит в спящий режим в тех каналах, где ему неоднократно оказывается нечего добавить.

Почему в Anthropic считают, что совместный ИИ превосходит звезд-одиночек

Скептики вполне закономерно задаются вопросом: действительно ли все это ускоряет работу команд? Высококлассные специалисты часто добиваются наибольших успехов, работая в одиночку, а координировать использование ИИ между людьми с разными стилями работы — задача по-настоящему сложная. Когда Уайта попросили привести доказательства, он указал на то, как изменилась его собственная работа внутри Anthropic.

«Раньше, если у меня возникал вопрос о каких-то бизнес-процессах, я обращался к дата-саентисту, и у нас уходило день или два на анализ данных по этой проблеме, — рассказал Уайт. — Теперь Claude настолько хорошо справляется с анализом данных, что мне больше не нужно привлекать посредников. Все, что теперь делают специалисты по данным, — это создают инфраструктуру, которая гарантирует, что Claude всегда будет прав при проведении анализа».

По его словам, в результате время, которое раньше уходило на передачу задач из рук в руки, теперь тратится на принятие решений: «Большую часть времени я провожу со своими коллегами моего уровня, обсуждая, что нам действительно стоит сделать и как изменить нашу стратегию… Множество этапов передачи работы от одного сотрудника к другому ради принятия решения — все это сократилось драматически».

В качестве самого наглядного внешнего подтверждения этой концепции Уайт привел сферу надежности сайтов (SRE): Claude собирает логи ошибок, связывает их с недавними изменениями в коде и соответствующими обсуждениями в Slack, после чего выдает обобщенную информацию и привлекает нужных специалистов — «решая более масштабные, амбициозные и ориентированные на результат задачи, где часто необходима совместная работа».

Эти заявления звучат на рынке, который все еще пытается превратить энтузиазм по поводу ИИ в реальную финансовую отдачу. Согласно последнему исследованию State of AI от McKinsey, хотя 88% организаций заявляют об использовании ИИ как минимум в одной функции, а 62% как минимум экспериментируют с ИИ-агентами, лишь 39% отмечают какое-либо влияние ИИ на доходы, и только 6% относятся к «лидерам» (high performers), получающим существенную выгоду.

Deloitte, со своей стороны, прогнозирует, что 25% предприятий, использующих генеративный ИИ, развернут агентов в 2025 году, а к 2027 году этот показатель удвоится и достигнет 50%. Этот разрыв между внедрением и реальной отдачей — именно то поле, на которое претендует Anthropic: если победителями в гонке ИИ станут перестроенные рабочие процессы, а не прикрученные сбоку чат-боты, то продукт, реструктурирующий координацию команд, окажется гораздо более надежным инструментом, чем просто чуть более совершенная модель.

Как Anthropic защищает всегда работающих агентов от атак через внедрение промптов (prompt injection)

Предоставление ИИ-агенту постоянного доступа к каналам Slack, документам и подключенным системам компании поднимает очевидный вопрос об уязвимостях, особенно в отношении атак с внедрением инструкций (prompt injection) — метода, при котором вредоносные указания встраиваются в контент, читаемый искусственным интеллектом.

Уайт описал многоуровневую стратегию защиты. «Сами модели обучены с использованием классификаторов, которые помогают предотвращать подобные атаки», — сказал он, добавив, что из-за этой проблемы Anthropic уже откладывала некоторые запуски: «Мы не стали выпускать наше расширение для Chrome в общий доступ, а перенесли его в лист ожидания… поскольку нам нужно лучше понимать риски внедрения промптов в контексте работы Claude в браузере. В итоге мы провели обучение новых классификаторов, чтобы улучшить защиту на основе собранных данных».

Помимо защиты на уровне моделей, Anthropic предоставляет API соответствия требованиям и аналитики, которые позволяют предприятиям самим устанавливать пороговые значения риска, а также сотрудничает со сторонними поставщиками систем безопасности через интеграции для предотвращения утечки данных (DLP) и хуки. «Мы подходим к решению этой задачи на многих уровнях стека», — подчеркнул Уайт.

Что касается доступа к данным, Уайт особо отметил, что права доступа Claude сужаются до наиболее строгого пересечения того, что видит сам агент и что разрешено видеть запросившему его пользователю. «У вас должны быть те же самые права на просмотр данных, к которым получает доступ инструмент, — пояснил он. — Если вы используете Claude в процессе совместной работы, он будет иметь контекст того канала, который находится перед вами, но он не станет переносить этот контекст в другой канал».

Нерешенный вопрос ценообразования, который должен задать себе каждый ИТ-директор

Одна деталь, скрытая в анонсе Claude Tag, заслуживает внимания ИТ-покупателей: расширенный контекст каналов, который теперь удерживает Claude, пока не учитывается в лимитах использования или затрат ни в одном из тарифных планов. На вопрос о том, стоит ли предприятиям закладывать в бюджет расходы на этот контекст в будущем, Уайт отвечать отказался, охарактеризовав текущий этап как период активных экспериментов и совместной разработки с клиентами.

«Мы находимся в самом начале пути в том, что касается проактивных и коллаборативных агентов, — сказал он. — Долгосрочная перспектива в сфере ИИ — это очень… очень надолго. Все меняется стремительно, и именно поэтому тесное партнерство с нашими клиентами так важно, ведь они помогают нам найти правильный ответ».

Вместо обещаний по поводу цен Anthropic делает акцент на элементах контроля: ограничениях бюджета, привязанных к учетным записям агентов или ролевым группам доступа, а также на возможностях моделей, которые позволяют разным командам использовать различные профили соотношения затрат и производительности. «Если мы сможем предоставить вам абсолютный контроль над архитектурой развертывания для оптимизации соотношения затрат и производительности под конкретные задачи, то появится множество способов достичь желаемого результата», — заявил Уайт.

Честный перевод этого заявления таков: экономика постоянной работы контекстно-емких агентов еще не устоялась, и Anthropic фактически субсидирует этап обучения. Предприятиям следует проектировать развертывание систем с расчетом на то, что счетчик рано или поздно начнет накручивать деньги.

Почему компании могут выбрать Anthropic вместо Microsoft, Google и Salesforce

Вопрос конкуренции стоит очень остро. Salesforce владеет Slack, Microsoft внедряет агентов во все уголки Teams и продвигает собственные амбиции в сфере мультиагентной оркестрации, а Google делает то же самое в Workspace. Почему какое-либо предприятие должно доверять свои самые конфиденциальные внутренние разговоры сторонней компании?

Ответ Уайта заключается в том, что ценность кроется в связях между системами, а не внутри какой-то одной из них. По его словам, улучшение продукта на основе отзывов клиентов требует сбора стенограмм звонков из Salesforce, внутренних обсуждений из Slack, аналитики использования из продуктовых инструментов и кода из сред разработки — ни один отдельный вендор не владеет этой картиной целиком.

«Все ваши проблемы решает не какой-то один отдельный инструмент, — считает Уайт. — Ценность представляет интеллект и структура объединения всего этого вместе для достижения реального результата — создания лучшего продукта для ваших клиентов. И мы видим, что наши клиенты обожают Claude в роли оркестратора».

Эта позиция выглядит убедительно именно потому, что корпоративные данные фрагментированы по своей природе. Слой оркестрации, который сохраняет нейтральность по отношению к различным системам и построен на протоколе, стандартизированном даже злейшими конкурентами Anthropic, обладает структурными преимуществами, которых нет у агентов из изолированных экосистем (walled gardens). Риск, впрочем, существует и с другой стороны: владельцы платформ могут бесплатно поставлять своих агентов в комплекте и контролировать точки интеграции, от которых зависит Anthropic. Anthropic делает ставку на то, что передовой интеллект и межсистемный нейтралитет перевесят фактор дистрибуции — ставка, которая пока оправдывала себя в программировании, но остается неподтвержденной в сфере общего интеллектуального труда.

Что дальше: передача квартальных целей компании в ведение Claude

На вопрос о том, куда ведет эта траектория, Уайт обрисовал будущее, в котором делегирование происходит в обоих направлениях — и поражает то, с каким будничным спокойствием он об этом рассуждает.

«Сейчас мы ставим перед Claude конкретные проекты, — сказал он. — Думаю, скоро мы начнем передавать Claude его собственные OKR (цели и ключевые результаты), и он сам будет определять, над какими проектами организации нужно работать и как объединять людей для их реализации — со временем совершенствуя как самого себя, так и окружающих его людей».

Он признал, что это видение выглядит «немного абстрактным», и оно поднимает вопросы управления, которые современные средства контроля начинают затрагивать лишь поверхностно. ИИ, который решает, какие проекты преследует организация, и — словами Уайта — делегирует задачи людям «только тогда, когда им нужно помочь улучшить его суждения», переворачивает традиционные отношения между работниками и их инструментами таким образом, с чем большинство предприятий еще едва ли начали справляться.

Уайт указал на публичные обязательства Anthropic в отношении областей катастрофических рисков, таких как кибербезопасность и биозащита, как на свидетельство того, что компания взвешивает все ставки. Тем не менее, повседневные вопросы рабочей автономии по большей части остаются в руках клиентов и регулируются системами прав доступа и бюджетными ограничениями, которые Anthropic поставляет вместе со своими амбициозными продуктами.

Прямо сейчас более заметным изменением становится то, что уже происходит в каналах Slack: искусственный интеллект слушает все помещение, самостоятельно решает, когда подать голос, и все чаще выполняет связующую работу, которая раньше ложилась на плечи менеджеров, аналитиков и руководителей проектов. Уайт наблюдал, как этот сдвиг сократил его собственную работу до самого человеческого остатка — суждений, дискуссий и принятий решений, — и он ожидает, что точно такое же сжатие произойдет повсеместно.

Два года назад любимой метафорой индустрии для искусственного интеллекта был стажер. Компания Anthropic только что повысила его до руководителя аппарата — и теперь он подотчетен всей компании.

Оркестрация

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут. Материалы переведены с venturebeat.com.