Cisco и Стэнфорд исследуют коллективный интеллект на базе ИИ

Главная задача современного ИИ связана с координацией агентов, контекстом и совместной работой. Как сделать так, чтобы они действительно мыслили сообща, со всем присущим этому контекстным пониманием, переговорным процессом и общей целью? Это важнейший шаг на пути к новому типу распределенного интеллекта, в котором люди остаются полноценными участниками процесса.

На последнем мероприятии в рамках серии AI Impact Series от VentureBeat Виджой Пандей (Vijoy Pandey), старший вице-президент и генеральный директор подразделения Outshift компании Cisco, и Ноа Гудман (Noah Goodman), профессор Стэнфорда и соучредитель компании Humans&, обсудили, как выйти за рамки агентов, которые просто устанавливают связь, и перейти к агентам, обладающим коллективным интеллектом.

Потребность в коллективном интеллекте, а не в скоординированных действиях

Главная проблема, по словам Пандея, заключается в том, что «современные агенты могут объединяться друг с другом, но они не умеют по-настоящему мыслить вместе».

Хотя такие протоколы, как MCP и A2A, решили базовые задачи подключения, а AGNTCY занимается вопросами обнаружения, управления идентификацией для межмашинного взаимодействия и наблюдаемости, все они эквивалентны лишь телефонному звонку между двумя людьми, которые не говорят на одном языке. Однако команда Пандея выявила нечто более глубокое, чем просто техническая инфраструктура: необходимость для агентов достигать коллективного интеллекта, а не просто координировать свои действия.

Как общие намерения и общие знания способствуют коллективным инновациям

Чтобы понять, куда должен двигаться мультиагентный ИИ, оба спикера обратились к истории человеческого интеллекта. Хотя люди стали разумными по отдельности примерно 300 000 лет назад, настоящий коллективный интеллект возник лишь около 70 000 лет назад с появлением развитого языка.

Этот прорыв обеспечил три важнейших возможности: общие намерения, общие знания и коллективные инновации.

«Как только у вас появляется общее намерение, общая цель, у вас появляется база знаний, которую вы можете изменять, развивать, дополнять, и тогда вы можете двигаться в сторону коллективных инноваций», — отметил Пандей.

Гудман, чья работа находится на стыке компьютерных наук и психологии, пояснил, что язык — это гораздо больше, чем просто кодирование и декодирование информации.

«Язык — это такой способ кодирования, который требует понимания контекста, намерения говорящего, окружающего мира и того, как это влияет на слова людей, чтобы выяснить, что именно они имеют в виду», — сказал он.

Именно такое глубокое понимание лежит в основе человеческого сотрудничества и кумулятивной культурной эволюции, и именно его в настоящее время не хватает во взаимодействии между агентами.

Решение проблем с помощью Интернета познания

«Мы должны имитировать человеческую эволюцию, — пояснил Пандей. — Помимо того, что агенты становятся все умнее и умнее, подобно отдельным людям, нам необходимо создать инфраструктуру, которая обеспечивала бы коллективные инновации, что подразумевает разделение намерений, координацию, а затем совместное использование знаний или контекста и развитие этого контекста».

Пандей называет это Интернетом познания (Internet of Cognition) — трехуровневой архитектурой, предназначенной для обеспечения коллективного мышления среди разнородных агентов:

Уровень протоколов: Помимо базовой связи, эти протоколы обеспечивают понимание, обработку совместных намерений, координацию, переговоры и обнаружение между агентами от разных вендоров и организаций.

Уровень фабрики (Fabric layer): Система разделяемой памяти, которая позволяет агентам создавать и развивать коллективный контекст, причем в результате их взаимодействия возникают эмерджентные свойства.

Уровень когнитивного движка: Ускорители и механизмы контроля, которые помогают агентам мыслить быстрее, оставаясь при этом в рамках необходимых ограничений, касающихся комплаенса, безопасности и затрат.

Сложность заключается в том, что организациям необходимо выстраивать коллективный интеллект за пределами своих внутренних границ.

«Подумайте о разделяемой памяти в гетерогенной среде, — сказал Пандей. — К нам приходят агенты от разных сторон. Так как же развивать эту память и получать эмерджентные свойства?»

Новые прототоколы обучения базовых моделей для совершенствования связи между агентами

В компании Humans&, вместо того чтобы полагаться исключительно на дополнительные прототоколы, команда Гудмана кардинально меняет подход к обучению базовых моделей — не только между человеком и агентом, но и между человеком и несколькими агентами, и особенно между агентом и несколькими людьми.

«Изменив подход к обучению базовых моделей и сосредоточив его на взаимодействиях с очень долгосрочной перспективой, мы добьемся того, что они начнут понимать, как должно развиваться взаимодействие для достижения правильных долгосрочных результатов», — пояснил он.

Кроме того, добавляет он, это сознательное отклонение от пути долгосрочной автономии, которым идут многие крупные лаборатории.

«Наша цель — не все большая автономия. Наша цель — все более качественное сотрудничество, — сказал он. — Humans& создает агентов с глубоким социальным пониманием: сущностей, которые знают, кто что знает, умеют способствовать сотрудничеству и сводят нужных специалистов в нужное время».

Создание механизмов контроля, поддерживающих познание

Механизмы контроля (guardrails) остаются главной сложностью при внедрении многофункциональных агентов, затрагивающих все сферы деятельности организации. Возникает вопрос: как обеспечить соблюдение границ, не подавляя инновации? Организациям нужны строгие правила, похожие на законы, но люди на самом деле так не работают. Вместо этого люди руководствуются принципом минимизации вреда, предвидением последствий и принятием контекстуальных решений.

«Как обеспечить механизмы контроля таким образом, чтобы они носили характер правил, но при этом поддерживали познание, основанное на результатах, когда модели станут достаточно умными для этого?» — задался вопросом Гудман.

Пандей развил эту мысль применительно к реальности инновационных команд, которым необходимо применять правила с учетом здравого смысла, а не просто слепо им следовать. Понимание того, что подлежит интерпретации, — это «весьма совместная задача», отметил он. «И это не решается с помощью набора предикатов. Это не решается с помощью какого-то документа. Это решается через общее понимание, опору на факты, обнаружение и переговоры».

Распределенный интеллект: путь к суперинтеллекту

Настоящий суперинтеллект возникнет не благодаря созданию все более мощных индивидуальных моделей, а за счет распределенных систем.

«Хотя мы создаем все более совершенные модели и агентов, в конечном счете мы чувствуем, что настоящий суперинтеллект появится именно благодаря распределенным системам», — заявил Пандей.

Интеллект будет масштабироваться по двум осям: вертикальной (совершенствование отдельных агентов) и горизонтальной (создание более развитых сетей сотрудничества), что очень напоминает принципы традиционных распределенных вычислений.

Тем не менее, подчеркнул Гудман, «мы не можем двигаться к будущему, в котором ИИ уходит в отрыв и работает сам по себе. Мы должны двигаться к будущему, в котором существует интегрированная экосистема, распределенная экосистема, плавно объединяющая людей и ИИ».