Потребности ИИ меняют сетевую инфраструктуру

Потребности ИИ меняют сетевую инфраструктуру

Источник: VentureBeat · VB Staff

При поддержке Tata Communications


Непрерывный вывод данных, межмодельное взаимодействие и конвейеры данных в реальном времени создают непредсказуемый трафик, работающий круглосуточно, для поддержки которого устаревшие архитектуры никогда не предназначались. По мере того как ИИ переходит из стадии пилотных проектов в статус операционной основы, сеть превращается в важнейший уровень управления, определяющий производительность, надежность и стоимость.

Такой сдвиг заставляет организации ставить под сомнение допущения, которые сохранялись на протяжении десятилетий. Устаревшие системы были статичными и громоздкими, им не хватало возможности эффективно или динамично управлять сетевым трафиком, в то время как сети, готовые к внедрению ИИ, должны адаптироваться в реальном времени. В исследовании Cisco отмечается, что 80% руководителей считают выживание своих компаний в конкурентной борьбе зависящим от агентного ИИ, а потребительское использование ИИ уже получило широкое распространение и набирает обороты. Это приводит к фундаментальному изменению того, как трафик генерируется, распределяется и воспринимается, что затрагивает поставщиков услуг и предприятия, управляющие крупномасштабными сетями.

Этот инфраструктурный разрыв вызывает глобальную озабоченность. Недавнее исследование Bloomberg «Предприятие, готовое к будущему» (The Future-Ready Enterprise), подготовленное по заказу Tata Communications, показало, что, хотя 3 из 4 руководителей считают ИИ приоритетом на уровне совета директоров, почти две трети (65%) предприятий продолжают работать на переходной или устаревшей инфраструктуре. Этот разрыв между амбициями и реальностью является главным препятствием на пути извлечения выгоды из инвестиций в ИИ.

Планка производительности также поднялась на порядок. Традиционные бизнес-приложения могли терпеть задержку (латентность) от 100 до 500 миллисекунд, в то время как критически важные рабочие нагрузки ИИ теперь требуют латентности менее 10 миллисекунд.

«Это не просто поэтапное улучшение, — говорит Капил, вице-президент по глобальным сетевым услугам в Tata Communications. — Это совершенно другая парадигма производительности, которая разрушает традиционные представления о проектировании сетей, где столь экстремально малые задержки никогда не были главным приоритетом».

Как производительность сети влияет на надежность и стоимость ИИ

Разрыв между тем, что может обеспечить устаревшая инфраструктура, и тем, что требует ИИ, превращает производительность сети в прямой фактор надежности и стоимости искусственного интеллекта. Отношение к сети как к транспортному уровню с «лучшими усилиями» (best-effort) создает риски, с которыми многие организации сталкиваются только тогда, когда развернутое решение демонстрирует низкую производительность в продакшене. Модель, созданная для обнаружения мошенничества в реальном времени или оптимизации цепочки поставок, становится бесполезной в тот момент, когда перегрузка сети задерживает данные, от которых она зависит, и Капил отмечает, что каждая миллисекунда такой задержки может иметь прямую финансовую или операционную стоимость.

«Опора на сеть с „лучшими усилиями“ превращает многомиллионные инвестиции в стек ИИ в рискованную авантюру, где производительность отдана на волю случая», — говорит Капил.

Он добавляет, что компании часто недооценивают сложность использования общедоступного интернета в качестве глобальной корпоративной сети. Производительность может выглядеть приемлемой в пределах одной страны, но как только данные начинают пересекать границы или подключаться к международным облачным платформам, отсутствие сквозного контроля становится операционным барьером.

Распределенный ИИ в облаке, на периферии и на предприятии увеличивает сложность

Сложность возрастает по мере того, как компоненты ИИ распределяются между облачными, периферийными и корпоративными средами. Организации часто сосредоточиваются на вычислительной мощности и инфраструктуре данных, упуская из виду сетевую структуру, которая их соединяет. Это «слепое пятно» часто проявляется в виде узкого места производительности, создаваемого высокочастотным восточно-западным трафиком, движущимся между графическими процессорами (GPU).

Дистрибуция также расширяет поверхность, которую предприятия должны защищать. Приложения, пользователи и партнерские экосистемы теперь рассредоточены по облачным средам, SaaS, периферийным устройствам и устройствам, и Капил отмечает, что вредоносные боты на базе ИИ составляют примерно 37 процентов онлайн-трафика, что все больше затрудняет различие между легитимными пользователями и автоматизированными угрозами. Многие предприятия отреагировали на это внедрением изолированных инструментов, что привело к фрагментации, несогласованности безопасности и отсутствию единой видимости вместо формирования слаженной обороны.

«SASE помогает снизить эти риски, объединяя сетевые функции и безопасность в единую облачную архитектуру, — говорит Капил. — Такое слияние обеспечивает единообразное применение политик в облачных, локальных и периферийных средах, одновременно предоставляя масштабируемость и близость, необходимые для защиты взаимодействия на базе ИИ в реальном времени».

Сеть должна эволюционировать от пассивного транспорта к интеллектуальному уровню

Устранение этого разрыва требует от организаций получения гораздо большей видимости того, как трафик ИИ перемещается по распределенным средам, а также возможности соответствующим образом направлять рабочие нагрузки. Капил говорит, что это требует иного подхода к управлению сетью.

«Руководители должны понять, что сеть больше не является пассивным „водопроводом“. Ею необходимо управлять как активной интеллектуальной платформой, лежащей в основе всего стека ИИ, — говорит он. — Эта платформа требует мониторинга в реальном времени того, как и куда течет трафик ИИ, в сочетании с контролем для оркестрации рабочих нагрузок по наиболее эффективному и безопасному из доступных путей».

В этом разница между простым соединением систем и раскрытием новых возможностей — например, беспрепятственным совершением покупок в период пиковых продаж или трансляцией глобального спортивного мероприятия без буферизации.

Этот интеллект также меняет то, как команды инфраструктуры проводят свой рабочий день. Сама сеть теперь определяется программно и управляется через API, а не фиксируется конфигурацией оборудования, что, по словам Капила, смещает фокус команд инфраструктуры с реагирования на сбои на проектирование систем, которые их предотвращают.

«Вместо того чтобы вручную перенаправлять трафик во время сбоя, команда должна определить правила, политики и бизнес-результаты для интеллектуальной инфраструктуры, — говорит Капил. — Затем сама сеть автоматически и автономно выполняет эти политики».

Tata Communications претворяет этот принцип в жизнь с помощью недавно запущенного решения IZO Data Centre Dynamic Connectivity. Программно-определяемая платформа создает «самовосстанавливающуюся, интеллектуальную сеть», используя детерминированную многопутевую маршрутизацию для автоматического перенаправления трафика за считанные секунды во время сбоя.

Компания заявляет, что платформа превращает отказоустойчивость из реактивного процесса в автономную способность, обеспечивая предсказуемую производительность с низкими задержками, необходимую для критически важных приложений ИИ, и одновременно сокращая эксплуатационные расходы на величину до 30%.

ИИ в реальном времени требует предсказуемого подключения с низкими задержками

Реализация этого интеллекта на практике означает выделение критически важным рабочим нагрузкам выделенной емкости, а не заставление их конкурировать за нее. Достижение такого уровня согласованности также требует от предприятий гораздо более точного определения производительности, чем в прошлом. Это переход от расплывчатых целей, таких как «высокая производительность», к детерминированным критериям производительности, когда организация берет на себя обязательство по гарантированному уровню обслуживания: например, задержка для конкретной рабочей нагрузки не превышает 10 миллисекунд в 99,999% случаев.

Этот же спрос на предсказуемость распространяется и на планирование пропускной способности. По мере того как рабочие нагрузки ИИ становятся все более масштабными и динамичными, сетевая инфраструктура должна быть способна поглощать резкие изменения спроса без ущерба для производительности и эффективности.

«Без динамической масштабируемости предприятия вынуждены делать ложный выбор: либо рисковать перегрузкой, убивающей производительность, либо заниматься масштабным, неэффективным резервированием емкости сети „на всякий случай“. Это невероятно дорого и неэффективно», — говорит Капил.

Создание этой основы для самых требовательных мировых рабочих нагрузок ИИ уже идет полным ходом. Например, Tata Communications сотрудничает с Amazon Web Services (AWS) в деле создания одной из крупнейших в Индии <хайп>сетей, готовых к ИИхайп> сетей, готовых к ИИ. Эта высокопроизводительная, устойчивая сеть свяжет основные инфраструктурные точки AWS в Мумбаи, Хайдарабаде и Ченнаи, обеспечивая магистраль с ультранизкой задержкой, необходимую для ускорения внедрения генеративного ИИ и облачных инноваций по всей стране.

Он указывает на модель на основе потребления, где программное обеспечение позволяет пропускной способности и сетевым функциям мгновенно масштабироваться вместе со спросом, как на операционную альтернативу, поскольку она позволяет организациям платить только за то, что они используют, при этом защищая производительность во время пиковых нагрузок.

Директора по информационным технологиям (CIO) должны рассматривать сеть как стратегическую инвестицию

Директора по информационным технологиям (CIO) и руководители инфраструктуры должны переосмыслить роль сети, рассматривая ее не как центр затрат, а скорее как страховой полис для более широкого инвестиционного портфеля организации в области ИИ. Интеллектуальная сеть снижает риски этих инвестиций тремя способами:

обеспечивая динамическую масштабируемость, которая устраняет необходимость в избыточном резервировании;

укрепляя безопасность и управление за счет прозрачности, необходимой для защиты данных и моделей;

предоставляя гибкую, программируемую основу, способную поглощать будущие вычислительные потребности без полной перестройки архитектуры.

Достижение этого не требует от предприятий начинать с нуля.

Выбор партнера с проверенной репутацией имеет решающее значение. Компания Tata Communications недавно была признана Лидером в «Магическом квадранте» Gartner по глобальным услугам WAN 13-й год подряд, что отражает полноту ее видения и способность к реализации. Это признание отражает постоянные инвестиции в такие области, как возможности SASE для безопасности на базе ИИ и высокопроизводительные сервисы 800G, разработанные для инфраструктуры масштаба ИИ.

«Мы рекомендуем поэтапный подход, который начинается с оценки текущего состояния сети и выявления неэффективных мест, а затем расстановки приоритетов при модернизации в таких областях, как технологии, готовые к ИИ, беспрепятственный обмен данными и передовые решения безопасности, — говорит Капил. — Отношение к сети как к бизнес-драйверу, а не к накладным расходам, дает организациям масштабируемую, безопасную и устойчивую инфраструктуру, которую экономика ИИ будет требовать и впредь».


Спонсорские статьи — это контент, созданный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко помечены. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.

Инфраструктура

Смотреть все

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.