OpenClaw и Claude: влияние агентного ИИ
Эпоха агентного ИИ уже наступила — нравится нам это или нет. То, что начиналось в 2022 году как безобидный диалог в формате «вопрос-ответ» с ChatGPT, превратилось в экзистенциальные дебаты о безопасности рабочих мест и восстании машин.
Совсем недавно опасения по поводу достижения общего искусственного интеллекта (AGI) стали еще более реальными с появлением мощных автономных агентов, таких как Claude Cowork и OpenClaw. Поработав с этими инструментами некоторое время, я подготовил их сравнение.
Во-первых, у нас есть OpenClaw (ранее известный как Moltbot и Clawdbot). Набрав более 150 000 звезд на GitHub за считанные дни, OpenClaw уже развертывается на локальных машинах с глубоким доступом к системе. Это похоже на робота-«горничную» (например, Ирону для поклонников Богатого Ричи), которой вы даете ключи от своего дома. Она должна убираться, а вы наделяете ее необходимой самостоятельностью для совершения действий и управления вашими вещами (файлами и данными) по ее усмотрению. Главная цель — выполнять текущие задачи: сортировку входящих писем, автоответы, курирование контента, планирование путешествий и многое другое.
Далее идет Antigravity от Google — агент по написанию кода с интегрированной средой разработки (IDE), который ускоряет путь от промпта до продакшена. Вы можете интерактивно создавать полноценные проекты приложений и менять конкретные детали с помощью отдельных запросов. Это все равно что завести младшего разработчика, который может не только писать код, но и собирать, тестировать, интегрировать проект и исправлять ошибки. В реальном мире это как нанять электрика: он действительно хорош в конкретной работе, и вам нужно лишь предоставить ему доступ к определенному объекту (вашему электрощитку).
Наконец, перед нами могучий Claude. Выпуск Anthropic системы Cowork, в состав которой вошли ИИ-агенты для автоматизации юридических задач (таких как проверка контрактов и сортировка соглашений о неразделании — NDA), вызвал резкую распродажу акций компаний в сфере legal-tech и программного обеспечения как услуги (SaaS), которую окрестили SaaSpocalypse (саас-покалипсисом). Claude и так был главным чат-ботом по умолчанию; теперь же с появлением Cowork он обладает экспертными знаниями в таких конкретных отраслях, как право и финансы. Это все равно что нанять бухгалтера. Он досконально знает предметную область и может рассчитывать налоги и управлять счетами. Пользователи предоставляют ему специфический доступ к конфиденциальным финансовым данным.
Заставьте эти инструменты работать на вас
Ключ к тому, чтобы сделать эти инструменты более эффективными, заключается в предоставлении им больших полномочий, однако это увеличивает риск их нецелевого использования. Пользователи должны доверять таким провайдерам, как Anthropic и Google, будучи уверенными в том, что промпты агентов не нанесут вреда, не приведут к утечке данных и не обеспечат несправедливое (незаконное) преимущество определенным вендорам. OpenClaw — это проект с открытым исходным кодом, что все усложняет, поскольку в нем нет центрального управляющего органа.
Хотя эти технологические достижения поразительны и служат общему блу, для возникновения паники достаточно одного-двух неблагоприятных инцидентов. Представьте, что электрик-агент перепалит всю проводку в вашем доме, подключив не тот провод. В сценарии с ИИ-агентом это может выразиться в написании некорректного кода, выводе из строя более крупной системы или добавлении скрытых дефектов, которые проявятся не сразу. Cowork может упустить важные возможности для экономии при расчете налогов пользователя или, наоборот, включить в декларацию незаконные списания. Claude способен нанести невообразимый ущерб, если получит еще больше контроля и полномочий.
Но посреди этого хаоса есть возможность извлечь реальную пользу. При наличии правильных защитных механизмов агенты могут сосредоточиться на конкретных действиях и не принимать случайных, ничем не обоснованных решений. Принципы ответственного ИИ — подотчетность, прозрачность, воспроизводимость, безопасность и конфиденциальность — чрезвычайно важны. Логирование шагов агента и подтверждение действий со стороны человека критически необходимы.
Кроме того, когда агенты взаимодействуют со множеством самых разных систем, важно, чтобы они говорили на одном языке. Онтология приобретает колоссальное значение, позволяя отслеживать события, контролировать их и нести за них ответственность. Общая доменно-специфичная онтология способна задать «кодекс поведения». Такая этика поможет обуздать хаос. В сочетании с общей системой доверия и распределенной идентификации мы сможем создавать системы, которые позволят агентам выполнять действительно полезную работу.
При правильном подходе экосистема ИИ-агентов способна существенно снизить «когнитивную нагрузку» на человека и позволить нашей рабочей силе сосредоточиться на задачах высокой ценности. Люди выиграют от того, что рутину возьмут на себя агенты.
Даттарадж Рао (Dattaraj Rao) — архитектор по инновациям и научно-исследовательским разработкам в Persistent Systems.
Добро пожаловать в сообщество VentureBeat!
Наша программа гостевых публикаций создана для того, чтобы технические эксперты делились своими мыслями и предоставляли независимый, неангажированный глубокий анализ в сфере ИИ, инфраструктуры данных, кибербезопасности и других передовых технологий, формирующих будущее корпоративного сектора.
Читайте далее в рамках нашей программы гостевых публикаций и ознакомьтесь с нашими рекомендациями если вы хотите сами написать статью!
