OpenClaw и Claude: влияние агентного ИИ
Эпоха агентного ИИ уже наступила — нравится нам это или нет. То, что начиналось в 2022 году как безобидный диалог с ChatGPT в формате «вопрос-ответ», превратилось в экзистенциальные дебаты о безопасности рабочих мест и восстании машин.
В последнее время страхи по поводу достижения общего искусственного интеллекта (AGI) стали более осязаемыми с появлением мощных автономных агентов, таких как Claude Cowork и OpenClaw. Поработав с этими инструментами некоторое время, я решил составить их сравнение.
Во-первых, у нас есть OpenClaw (ранее известный как Moltbot и Clawdbot). Набрав более 150 000 звезд на GitHub всего за несколько дней, OpenClaw уже развертывается на локальных машинах с глубоким доступом к системе. Это похоже на робота-«горничную» (вроде Айроны для поклонников Богатого Ричи, например), которой вы даете ключи от своего дома. Она должна убираться, и вы наделяете ее необходимой самостоятельностью для совершения действий и управления вашими вещами (файлами и данными) по ее усмотрению. Главная цель — выполнять текущие задачи: сортировку входящих писем, автоответы, кураторство контента, планирование путешествий и многое другое.
Далее идет Antigravity от Google — агент по написанию кода с интегрированной средой разработки (IDE), который ускоряет путь от промпта до продакшена. Вы можете интерактивно создавать полноценные проекты приложений и менять конкретные детали с помощью отдельных запросов. Это все равно что иметь в команде младшего разработчика, который умеет не просто писать код, но и собирать, тестировать, интегрировать проект и исправлять ошибки. В реальной жизни это похоже на найм электрика: они действительно хороши в конкретной работе, и вам нужно предоставить им доступ лишь к определенному объекту (вашему электрическому щитку).
Наконец, у нас есть могучий Claude. Выпуск Cowork от Anthropic, в состав которого вошли ИИ-агенты для автоматизации юридических задач вроде проверки контрактов и анализа соглашений о неразглашении (NDA), вызвал резкую распродажу акций компаний в сфере legal-tech и программного обеспечения как услуги (SaaS) (явление, названное SaaSpocalypse). Claude в любом случае был чат-ботом по умолчанию; теперь же с выходом Cowork он обладает экспертными знаниями в конкретных отраслях, таких как юриспруденция и финансы. Это сродни найму бухгалтера. Он знает предметную область изнутри и может рассчитывать налоги и управлять счетами. Пользователи предоставляют такому агенту особый доступ к конфиденциальным финансовым данным.
Заставьте эти инструменты работать на вас
Ключ к тому, чтобы сделать эти инструменты более эффективными, заключается в предоставлении им больших полномочий, но это увеличивает риск их нецелевого использования. Пользователи должны доверять таким провайдерам, как Anthropic и Google, будучи уверенными в том, что запросы агентов не нанесут вреда, не приведут к утечке данных или не предоставят несправедливого (незаконного) преимущества определенным вендорам. OpenClaw имеет открытый исходный код, что все усложняет, поскольку здесь нет центрального управляющего органа.
Хотя эти технологические достижения поразительны и направлены на общее благо, достаточно одного или двух неблагоприятных инцидентов, чтобы вызвать панику. Представьте, что агент-электрик закоротит всю проводку в доме, подключив не тот провод. В сценарии с ИИ-агентами это может быть внедрение неверного кода, разрушение более крупной системы или добавление скрытых дефектов, которые не сразу станут очевидны. Cowork может упустить важные возможности для экономии при расчете налогов пользователя; с другой стороны, он может включить в отчет незаконные списания. Claude способен нанести невообразимый ущерб, если получит еще больше контроля и полномочий.
Но посреди этого хаоса есть возможность извлечь реальную пользу. При наличии правильных защитных механизмов агенты могут сосредоточиться на конкретных действиях и избежать принятия случайных, ничем не обоснованных решений. Принципы ответственного ИИ — подотчетность, прозрачность, воспроизводимость, безопасность, конфиденциальность — чрезвычайно важны. Логирование действий агента и подтверждение со стороны человека критически необходимы.
Кроме того, когда агентам приходится иметь дело с таким количеством разнообразных систем, важно, чтобы они говорили на одном языке. Онтология приобретает важнейшее значение, позволяя отслеживать события, осуществлять мониторинг и нести за них ответственность. Общая предметно-ориентированная онтология может определять «кодекс поведения». Эти этические нормы помогут обуздать хаос. Объединив их с общей системой доверия и распределенной идентификации, мы сможем создать системы, которые позволят агентам выполнять по-настоящему полезную работу.
При правильном подходе агентная экосистема способна значительно снизить «когнитивную нагрузку» на человека и позволить нашей рабочей силе сосредоточиться на высокоуровневых задачах. Люди выиграют от того, что рутину возьмут на себя агенты.
Даттарадж Рао — архитектор инноваций и научно-исследовательских разработок в компании Persistent Systems.
Добро пожаловать в сообщество VentureBeat!
Наша программа гостевых публикаций создана для того, чтобы технические эксперты могли делиться идеями и представлять независимый, непредвзятый глубокий анализ в сфере ИИ, инфраструктуры данных, кибербезопасности и других передовых технологий, формирующих будущее бизнеса.
Читайте далее в рамках нашей программы гостевых публикаций — и ознакомьтесь с нашими рекомендациями, если вы хотите опубликовать собственную статью!
