ИИ-агенты сталкиваются с трудностями в 2025 году

2025 год должен был стать годом ИИ-агентов, верно? 

Не совсем, признают Google Cloud и Replit — два крупных игрока в сфере ИИ-агентов и партнеры по движению «вайб-кодинга» — на недавнем мероприятии VB Impact Series.

Даже несмотря на то, что они сами создают агентские инструменты, лидеры обеих компаний заявляют, что возможности пока еще не до конца доработаны. 

Эта суровая реальность сводится к проблемам с устаревшими рабочими процессами, фрагментированными данными и незрелыми моделями управления. Кроме того, компании в корне заблуждаются, полагая, что агенты похожи на другие технологии: они требуют кардинального переосмысления и перестройки рабочих процессов и процедур. 

Когда предприятия создают агентов для автоматизации работы, «большинство из них — это игрушечные примеры», — заявил в ходе мероприятия Амджад Масад, генеральный директор и основатель Replit. — «Они вдохновляются, но когда дело доходит до внедрения, это работает не очень хорошо».

Создание агентов на основе собственных ошибок Replit

Надежность и интеграция, а не сам уровень интеллекта, являются двумя основными препятствиями на пути к успеху ИИ-агентов, отметил Масад. Агенты часто дают сбои при длительной работе, накапливают ошибки или испытывают недостаток в доступе к чистым, хорошо структурированным данным. 

Проблема корпоративных данных заключается в том, что они беспорядочны — структурированные, неструктурированные и хранящиеся повсюду, — и их обход представляет собой сложную задачу. Вдобавок к этому существует множество негласных аспектов человеческой деятельности, которые трудно закодировать для агентов, отметил Масад. 

«Идея о том, что компании просто включат агентов, и те заменят работников или автоматически автоматизируют рабочие процессы, сегодня не соответствует действительности», — сказал он. «Инструментарий еще не готов».

Шагом за пределы обычных агентов являются инструменты для управления компьютером (computer use), которые могут брать под контроль рабочее пространство пользователя для выполнения базовых задач, таких как веб-серфинг. Однако они все еще находятся в зачаточном состоянии и могут быть проблемными, ненадежными и даже опасными, несмотря на поднятую шумиху. 

«Проблема в том, что модели компьютерного управления сейчас действительно плохи», — заявил Масад. «Они дорогие, медленные, они добиваются прогресса, но им всего около года».

Replit извлекает уроки из собственной ошибки, совершенной ранее в этом году, когда ее ИИ-кодер стер всю кодовую базу компании во время тестового запуска. Масад признал: «Инструменты были недостаточно зрелыми», отметив, что с тех пор компания изолировала разработку от рабочей среды.

Такие методы, как тестирование в контуре управления (testing-in-the-loop), верифицируемое выполнение и изоляция разработки, имеют решающее значение, отметил он, даже несмотря на то, что они могут требовать больших ресурсов. Replit внедрил возможности тестирования в контуре в третью версию своего агента, и Масад сообщил, что его агент нового поколения может работать автономно в течение 200 минут; некоторые запускали его на 20 часов.

Тем не менее, он признал, что пользователи выражали недовольство по поводу задержек. Когда они вводят «обширный промпт», им приходится ждать 20 минут или дольше. В идеале они заявляли, что хотят участвовать в более творческом процессе, где могут вводить множество промптов, работать над несколькими задачами одновременно и корректировать дизайн в процессе работы агента.

«Способ решить эту проблему — параллелизм: создание нескольких циклов агентов и предоставление им возможности работать над этими независимыми функциями, позволяя вам одновременно выполнять творческую работу», — сказал он.

Агенты требуют культурного сдвига

Помимо технической стороны, существует и культурный барьер: агенты действуют вероятностным образом, в то время как традиционные предприятия построены на детерминированных процессах, отметил Майк Кларк, директор по разработке продуктов в Google Cloud. Это создает культурное и операционное несоответствие, поскольку языковые модели врываются в бизнес с совершенно новыми инструментами, фреймворками оркестрации и процессами. 

«Мы не знаем, как относиться к агентам», — сказал Кларк. «Мы не знаем, как справиться с тем, на что способны агенты».

Компании, у которых все получается правильно, движимы инициативами снизу вверх: создание бескудовых (no-code) и малокодовых (low-code) программ и инструментов на передовой, которые перерастают в более крупных агентов. На данный момент успешные внедрения носят узкий характер, имеют четкие рамки и находятся под жестким контролем. 

«Если посмотреть на 2025 год и это обещание стать годом агентов, то это был год, когда многие занимались созданием прототипов», — сказал Кларк. «Теперь мы находимся в самом разгаре этой огромной фазы масштабирования».

Как обеспечить безопасность в мире без периметров?

Еще одна проблема — безопасность ИИ-агентов, которая также требует переосмысления традиционных процессов, отметил Кларк.  

Периметры безопасности выстроены вокруг всего подряд, но это не работает, когда агентам необходим доступ к самым разным ресурсам для принятия наилучших решений, считает Кларк. 

«Это действительно меняет наши модели безопасности, меняет наш базовый уровень», — сказал он. «Что означает принцип наименьших привилегий в мире без периметров и без защиты?»

В конечном счете, вся индустрия должна переосмыслить подход к управлению, а предприятиям необходимо прийти к единой модели угроз в отношении агентов. 

Кларк указал на несоответствие: «Если вы посмотрите на некоторые из своих процессов управления, вы будете очень удивлены, узнав, что истоки этих процессов восходят к ситуации, когда кто-то на электрической печатной машинке IBM печатал документ в трех экземплярах и передавал его трем людям. Мы живем совсем в другом мире».