Модель Fara-7B от Microsoft повышает безопасность локального ИИ

Корпорация Microsoft представила Fara-7B — новую модель с 7 миллиардами параметров, разработанную в качестве агента для взаимодействия с компьютером (Computer Use Agent, CUA), способного выполнять сложные задачи непосредственно на устройстве пользователя. Fara-7B задает новые стандарты эффективности для своего размера, предлагая способ создания ИИ-агентов, которые не зависят от массивных облачных моделей и могут работать на компактных системах с меньшей задержкой и повышенным уровнем конфиденциальности.

Хотя эта модель выпускается в качестве экспериментальной версии, ее архитектура решает ключевое препятствие на пути ее внедрения в корпоративный сектор — безопасность данных. Поскольку Fara-7B достаточно мала для локального запуска, она позволяет пользователям автоматизировать конфиденциальные рабочие процессы, такие как управление внутренними учетными записями или обработка секретных данных компании, без передачи этой информации за пределы устройства. 

Как Fara-7B «видит» веб-пространство

Fara-7B создана для навигации по пользовательским интерфейсам с помощью тех же инструментов, которыми пользуется человек: мыши и клавиатуры. Модель работает путем визуального восприятия веб-страницы через скриншоты и прогнозирования точных координат для таких действий, как клики, ввод текста и прокрутка.

Что особенно важно, Fara-7B не опирается на «деревья доступности» (accessibility trees) — скрытую структуру кода, которую браузеры используют для описания веб-страниц программам экранного доступа. Вместо этого она полагается исключительно на визуальные данные на уровне пикселей. Такой подход позволяет агенту взаимодействовать с веб-сайтами даже тогда, когда их исходный код запутан или чрезмерно сложен.

По словам Яша Лары (Yash Lara), старшего руководителя проектной группы в Microsoft Research, обработка всех визуальных данных непосредственно на устройстве обеспечивает истинный «суверенитет пикселей», поскольку скриншоты и логика, необходимые для автоматизации, остаются на устройстве пользователя. «Этот подход помогает организациям выполнять строгие требования в регулируемых отраслях, включая стандарты HIPAA и GLBA», — отметил он в письменном комментарии для VentureBeat.

В ходе бенчмарк-тестирования такой подход, ставящий визуальное восприятие на первое место, продемонстрировал высокие результаты. На WebVoyager, стандартном бенчмарке для веб-агентов, модель Fara-7B показала процент успешного выполнения задач на уровне 73,5%. Это превосходит показатели более крупных и ресурсоемких систем, включая GPT-4o при запросе действовать в качестве агента для работы за компьютером (65,1%), а также базовую модель UI-TARS-1.5-7B (66,4%).

Эффективность — еще одно ключевое отличие. В сравнительных тестах Fara-7B выполняла задачи в среднем примерно за 16 шагов по сравнению с примерно 41 шагом у модели UI-TARS-1.5-7B.

Управление рисками

Однако переход к автономным агентам сопряжен с определенными рисками. В Microsoft отмечают, что Fara-7B свойственны ограничения, характерные и для других моделей ИИ, включая потенциальные галлюцинации, ошибки при следовании сложным инструкциям и снижение точности при решении запутанных задач.

Чтобы минимизировать эти риски, модель была обучена распознавать так называемые «критические точки» (Critical Points). Критической точкой считается любая ситуация, требующая личных данных или согласия пользователя до совершения необратимого действия, такого как отправка электронной почты или проведение финансовой транзакции. Достигнув такого этапа, Fara-7B запрограммирована останавливаться и явно запрашивать одобрение пользователя перед продолжением работы. 

Управление таким взаимодействием без раздражения пользователя является ключевой задачей проектирования. «Баланс между надежными средствами защиты, такими как критические точки, и бесшовным пользовательским опытом имеет решающее значение», — подчеркнул Лара. «Наличие интерфейса, подобного Magentic-UI от Microsoft Research, жизненно важно для того, чтобы дать пользователям возможность вмешаться при необходимости, помогая при этом избежать усталости от постоянных подтверждений».

Magentic-UI — это исследовательский прототип, созданный специально для облегчения такого взаимодействия между человеком и агентом. Fara-7B оптимизирована для работы в среде Magentic-UI.

Превращение сложности в единую модель

Создание Fara-7B подчеркивает растущую тенденцию в области дистилляции знаний, при которой возможности сложной системы сжимаются в более компактную и эффективную модель.

Разработка CUA обычно требует огромного количества обучающих данных, демонстрирующих навигацию в интернете. Сбор таких данных с помощью ручной разметки стоит непомерно дорого. Для решения этой проблемы специалисты Microsoft применили конвейер синтетических данных на базе Magentic-One — многоагентной фреймворк-системы. В этой схеме агент-«оркестратор» составлял планы и направлял агента «WebSurfer» для веб-серфинга, в результате чего было сгенерировано 145 000 успешных траекторий выполнения задач.

Затем исследователи «дистиллировали» эти данные сложных взаимодействий в Fara-7B, которая базируется на Qwen2.5-VL-7B — базовой модели, выбранной благодаря ее большому контекстному окну (до 128 000 токенов) и высокой способности связывать текстовые инструкции с визуальными элементами на экране. Хотя генерация данных потребовала использования мощной многоагентной системы, сама по себе Fara-7B представляет собой единую модель, что доказывает: небольшая модель способна эффективно усваивать сложные типы поведения без необходимости использования громоздких вспомогательных структур на этапе выполнения.

В основе процесса обучения лежала контролируемая тонкая настройка (supervised fine-tuning), при которой модель учится, имитируя успешные примеры, сгенерированные синтетическим конвейером.

Взгляд в будущее

Хотя текущая версия обучалась на статических наборах данных, будущие итерации будут сосредоточены на повышении интеллектуальности модели, а не обязательно на увеличении ее размеров. «В дальнейшем мы будем стремиться сохранять наши модели компактными», — заявил Лара. «Наши текущие исследования направлены на то, чтобы сделать агентные модели более умными и безопасными, а не просто более масштабными». Это включает в себя изучение таких методов, как обучение с подкреплением (RL) в реальных изолированных средах (sandbox), что позволит модели учиться на основе проб и ошибок в режиме реального времени.

Корпорация Microsoft предоставила доступ к модели на платформах Hugging Face и Microsoft Foundry на условиях лицензии MIT. Тем не менее Лара предупреждает, что, хотя лицензия разрешает коммерческое использование, модель еще не готова к внедрению в производство. «Вы можете свободно экспериментировать и создавать прототипы на базе Fara‑7B в рамках лицензии MIT, — отмечает он, — но она лучше всего подходит для пилотных проектов и концептуальной проверки (proof-of-concept), а не для критически важных развертываний».