Arm развивает периферийный ИИ с помощью локальных интеллектуальных вычислений

При поддержке Arm

Искусственный интеллект больше не ограничен облаком или дата-центрами. Он все чаще запускается непосредственно там, где создаются данные — на периферии, в устройствах, датчиках и сетях. Этот сдвиг в сторону встроенного на устройствах интеллекта обусловлен требованиями к задержке, конфиденциальности и стоимости, с которыми компании сталкиваются по мере продолжения инвестиций в ИИ.

Для руководства компаний эта возможность очевидна, говорит Крис Берги (Chris Bergey), старший вице-президент и генеральный менеджер подразделения клиентских решений Arm: инвестируйте в ориентированные на ИИ платформы, которые дополняют использование облака, обеспечивают оперативность в реальном времени и защищают конфиденциальные данные.

«С взрывным ростом числа подключенных устройств и развитием интернета вещей (IoT) периферийный ИИ предоставляет организациям уникальную возможность получить конкурентное преимущество за счет более быстрого и эффективного ИИ», — поясняет Берги. — «Те, кто действует первыми, не просто повышают эффективность — они переосмысляют ожидания клиентов. ИИ становится фактором дифференциации в вопросах доверия, оперативности и инноваций. Чем быстрее бизнес сделает ИИ центральным элементом своих рабочих процессов, тем быстрее он приумножит это преимущество».

Сценарии использования: внедрение ИИ там, где живут данные

Предприятия обнаруживают, что периферийный ИИ — это не просто повышение производительности, а новая операционная модель. Локальная обработка данных означает меньшую зависимость от облака, а также более быстрое и безопасное принятие решений в реальном времени.

Например, на производственном предприятии можно мгновенно анализировать данные об оборудовании для предотвращения простоев, в то время как больница может безопасно запускать диагностические модели на месте. Ритейлеры внедряют аналитику в магазинах с помощью систем компьютерного зрения, а логистические компании используют встроенный на устройствах ИИ для оптимизации автопарков.

Вместо того чтобы отправлять огромные объемы данных в облако, организации могут анализировать информацию и действовать на ее основе прямо там, где она появляется. Результатом становится более отзывчивая, конфиденциальная и экономичная архитектура ИИ.

Ожидания потребителей: оперативность и доверие

Работая с командой Taobao компании Alibaba, крупнейшей китайской платформы электронной коммерции, компания Arm (Nasdaq:Arm) реализовала функцию рекомендаций товаров на устройствах, которые обновляются мгновенно, не завися от облака. Это помогло онлайн-покупателям быстрее находить то, что им нужно, сохраняя при этом конфиденциальность данных о просмотренных страницах.

Другой пример из сферы потребительских технологий — умные очки Meta Ray-Ban, сочетающие в себе облачный и периферийный ИИ. Очки обрабатывают быстрые команды локально для более оперативного ответа, в то время как более ресурсоемкие задачи, такие как перевод и распознавание образов, выполняются в облаке.

«Каждый крупный технологический сдвиг создавал новые способы взаимодействия и монетизации», — отмечает Берги. — «По мере роста возможностей ИИ и пользовательских ожиданий все больше элементов интеллекта должно перемещаться ближе к периферии, чтобы обеспечить тот уровень оперативности и доверия, которого люди теперь ожидают».

Этот сдвиг также происходит с инструментами, которые люди используют каждый день. Такие ассистенты, как Microsoft Copilot и Google Gemini, объединяют облачный и встроенный интеллект, чтобы приблизить генеративный ИИ к пользователю и обеспечить более быстрые, безопасные и контекстно-ориентированные возможности. Тот же принцип применим во всех отраслях: чем больше интеллекта вы безопасно и эффективно перенесете на периферию, тем более отзывчивыми, конфиденциальными и ценными станут ваши операции.

Более умное создание для масштабирования

Взрывной рост ИИ на периферии требует не только более умных чипов, но и более умной инфраструктуры. Согласовывая вычислительную мощность с требованиями рабочих нагрузок, предприятия могут снизить энергопотребление при сохранении высокой производительности. Этот баланс между экологичностью и масштабируемостью стремительно становится конкурентным преимуществом.

«Потребности в вычислениях, будь то в облаке или на локальных серверах, будут продолжать резко расти. Возникает вопрос: как максимизировать ценность этих вычислений?», — заявил он. — «Этого можно добиться только за счет инвестиций в вычислительные платформы и программное обеспечение, которые масштабируются вместе с вашими амбициями в области ИИ. Истинным мерилом прогресса является создание ценности для предприятия, а не показатели чистой эффективности».

Интеллектуальная основа

Быстрая эволюция моделей ИИ, особенно тех, которые обеспечивают периферийный вывод, мультимодальные приложения и быстрый отклик, требует не просто более умных алгоритмов, а фундамента из высокопроизводительного и энергоэффективного оборудования. Поскольку рабочие нагрузки становятся все более разнообразными и распределенными, устаревшие архитектуры, разработанные для традиционных задач, уже не справляются.

Роль центральных процессоров (CPU) эволюционирует: теперь они находятся в центре все более гетерогенных систем, обеспечивающих передовой пользовательский опыт работы с ИИ на устройствах. Благодаря своей гибкости, эффективности и зрелой программной поддержке современные процессоры способны запускать все: от классического машинного обучения до сложных рабочих нагрузок генеративного ИИ. В паре с такими ускорителями, как NPU или GPU, они интеллектуально координируют вычисления во всей системе, гарантируя, что нужная рабочая нагрузка запускается на подходящем процессоре для достижения максимальной производительности и эффективности. Процессор продолжает оставаться основой, которая обеспечивает масштабируемый и эффективный ИИ везде.

Такие технологии, как Scalable Matrix Extension 2 (SME2) от Arm, привносят передовое матричное ускорение в процессоры Armv9. В то же время интеллектуальный программный слой Arm KleidiAI широко интегрирован в ведущие фреймворки для автоматического повышения производительности широкого спектра рабочих нагрузок ИИ — от языковых моделей и распознавания речи до компьютерного зрения — на периферийных устройствах на базе Arm без необходимости для разработчиков переписывать свой код.

«Эти технологии гарантируют, что фреймворки ИИ могут использовать всю производительность систем на базе Arm без дополнительных усилий со стороны разработчиков», — говорит он. — «Именно так мы делаем ИИ масштабируемым и устойчивым: встраивая интеллект в фундамент современных вычислений, чтобы инновации происходили со скоростью программного обеспечения, а не циклов разработки аппаратного обеспечения».

Такая демократизация вычислительной мощности также станет залогом следующей волны интеллектуальных возможностей реального времени на уровне всего предприятия — не только в флагманских продуктах, но и во всем портфолио устройств.

Эволюция периферийного ИИ

По мере перехода ИИ от изолированных пилотных проектов к полномасштабному внедрению преуспеют те предприятия, которые свяжут интеллект на всех уровнях инфраструктуры. Системы агентного ИИ будут опираться на эту бесшовную интеграцию, обеспечивая автономные процессы, способные рассуждать, координировать действия и мгновенно приносить пользу.

«Эта картина знакома по каждой волне технологических потрясений: старожилы рынка, которые двигаются медленно, рискуют быть обогнанными новичками», — говорит он. — «Компании, которые добьются успеха, будут просыпаться каждое утро с вопросом о том, как сделать свою организацию ориентированной на ИИ в первую очередь. Как и в случае с зарождением интернета и облачных вычислений, те, кто сделает ставку на это и действительно станет организацией, использующей ИИ, сформируют облик следующего десятилетия».

Спонсорские статьи — это контент, созданный компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко маркируются. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.