Агентный ИИ меняет ИТ-роли и роли в сфере безопасности
При поддержке Splunk
Агентный ИИ делает команды специалистов по ИТ и безопасности значительно более эффективными. Но он также уничтожает систему ученичества, которая долгое время воспитывала опытных операторов.
Поскольку организации автоматизируют всё большую часть работы, которую раньше выполняли младшие аналитики и инженеры, они сталкиваются с проблемой, которая в такой же степени касается проектирования кадров, в какой и архитектуры: как вырастить следующее поколение экспертов, когда ИИ выполняет работу, которая раньше их обучала.
Чем занимались младшие специалисты
Два десятилетия путь к тому, чтобы стать аналитиком мирового класса в области SecOps, инженером SRE или NetOps, лежал через повторение.
Триаж ложноположительных срабатываний. Поиск контекста на дашбордах. Чтение логов в 2 часа ночи, которые в итоге оказывались безвредными. Индустрия относилась к этой работе как к рутине, и во многом так оно и было.
Но это также служило школой ученичества.
Тысячи часов, проведенные аналитиком за изучением паттернов трафика, формировали интуицию, которая делала его незаменимым, когда происходила реальная атака. Эту интуицию не преподавали на единственном курсе и не описывали в инструкциях. Она накапливалась благодаря опыту, распознаванию образов, неудачам и эскалации. Со временем именно так люди приобретают глубокий аналитический опыт.
Однако агентный ИИ теперь начинает автоматизировать именно те задачи, которые когда-то служили полигоном для приобретения этой экспертизы. Это не повод сбавлять обороты. Рутина была дорогой. Выгорание было реальным. Организации должны использовать агентов для сокращения тяжелого труда везде, где это возможно.
В то же время, устраняя этот цикл ученичества, мы должны предоставить операторам взамен что-то лучшее. То, как организации подходят к этому вопросу сегодня, определит лидеров будущего.
Организации, которые подходят к этому осознанно, подготовят операторов, обладающих навыками для успеха в следующее десятилетие. Организации, которые пустят это на самотёк, могут обнаружить, что у них теперь более быстрые системы, но меньше людей, которые понимают их достаточно глубоко, чтобы управлять ими завтра.
Когда автоматизация подрывает подотчетность
В этом разговоре есть и второе измерение, которому уделяется меньше внимания, чем следовало бы.
В регулируемой среде рутина ученичества является частью уровня подотчетности. Такие стандарты, как SOX, PCI DSS, HIPAA и NIS2, предполагают наличие цепочки человеческих решений за каждым решением по контролю.
Аудиторы не берут интервью у моделей. Они опрашивают людей, которые могут объяснить, почему система поступила именно так, почему решение было правильным и были ли приняты надлежащие меры контроля.
Когда число профессионалов, способных объяснить эту цепочку, начинает сокращаться, риск может проявиться не сразу. Контроль всё еще может проходить. Рабочий процесс всё еще может выполняться. Дашборд всё еще может светиться зеленым.
Но базовая организационная память начинает истощаться.
Это не просто проблема инструментов. Это также проблема квалификации персонала и проектирования рабочих мест. И для организаций, быстро внедряющих агентов, риск ближе, чем многие думают.
Создание человеческой экспертизы для управления ИИ
Когда мы теряем часть уровня подотчетности в пользу агентов, люди переходят на другую роль в управлении. Управление агентной системой означает внедрение автоматизированных защитных механизмов, которые адаптируются к недетерминированному поведению агентов и гарантируют, что агенты ведут себя надлежащим образом в условиях, которые никто до конца не предвидел. Это означает разработку критериев эскалации, которые фиксируют правильные аномалии, не перегружая людей ложными. Это означает внедрение динамических инструментов, оповещений и процессов для проверки решений машин с целью обнаружения отклонений, предвзятости и логических ошибок, которые не выявил бы ни один отдельный случай.
Способность оценивать эти исключения и реагировать на них требует суждений, накопленных за годы опыта, и развития навыков распознавания образов, которые раньше формировала модель ученичества.
Вот почему вопрос кадров и вопрос архитектуры теперь являются одним и тем же вопросом. Если мы ожидаем, что люди будут управлять всё более автономными системами, нам нужны осознанные пути, которые помогут людям справляться с масштабом и скоростью систем ИИ, одновременно развивая у операторов интуицию и способность принимать решения, необходимые для этой работы.
В эпоху ИИ самые ценные платформы не просто будут автоматизировать наибольшее количество задач. Они помогут людям стать более способными, заслуживающими доверия и незаменимыми по мере того, как окружающие их системы будут становиться быстрее и умнее.
Это означает, что организации должны инвестировать в полную экосистему экспертизы для операторов: сообщества, распространяющие общий опыт, сертификаты или другие подтверждения, делающие экспертизу видимой, а также ориентированные на человека объяснения и проверки в ИИ наряду с траекториями обучения, развивающими потенциал. Расширение возможностей — это выбор архитектурного дизайна
Расширение возможностей человека — критически важная часть дискуссии о практическом использовании ИИ. Однако без целенаправленной стратегии это рискует превратиться в фразу, которая ничего не значит, потому что может означать всё что угодно.
Расширение возможностей для агентных систем не может быть просто концептуальным требованием. Оно должно представлять собой набор проектных решений, заложенных в поведение систем. Агентная система, которая расширяет возможности своих человеческих операторов и повышает их профессиональную квалификацию, делает четыре вещи:
1. Раскрывает логику принятия решений с привязкой к происхождению данных
Каждая рекомендация, выдаваемая агентом, должна быть прослеживаема до данных, которые он рассматривал, примененной им логики и происхождения использованных им входных данных. Операторы, которые видят развитие логики, вырабатывают понимание того, когда ей можно доверять. Операторы, которым выдаются только готовые выводы, — нет.
2. Ранжирует полномочия по степени уверенности и влияния
Знакомые шаблоны с низким уровнем риска могут обрабатываться автономно. Новые ситуации или действия с существенным радиусом поражения должны по умолчанию передаваться на эскалацию. Эта граница должна быть четкой и настраиваемой командами, которые несут ответственность за последствия.
3. Рассматривает разногласия как сигнал для исправления
Когда опытный инженер отменяет решение агента, он делает больше, чем просто выражает несогласие. Он исправляет систему с помощью суждений, которых у модели не было: хрупкая зависимость, особенность окружения, ограничение, которого данные никогда не видели. Система, которая фиксирует отмену, но игнорирует лежащую в ее основе логику, ничему не учится в тот единственный момент, когда человек знал лучше.
4. Фиксирует решения как кросс-доменные знания
То, как разрешается инцидент, — это урок, который редко остается в рамках одной области. Инцидент в SecOps может выявить уязвимость в ITOps. Проблема с сетью может быть связана с влиянием на бизнес. Когда эта связь существует только внутри закрытого тикета, следующая команда, столкнувшаяся с ней, начинает с нуля. Решения должны пересекать границы доменов, а не умирать там, где они были зарегистрированы.
Это не абстрактные качества. Это проверяемые возможности продукта. Лидеры, оценивающие агентные системы, должны иметь возможность определить, где находятся эти возможности, что происходит при их сбое и улучшается ли квалификация операторов после развертывания.
Следующее преимущество возникает, когда человек и ИИ масштабируются вместе
Чтобы системы ИИ были практичными, надежными и работали в масштабе, критической точкой проектирования является глубокая совместная работа ИИ с операторами-людьми и расширение их возможностей.
Таким образом, эпоха агентов — это не история о замене людей. Это история о редизайне систем, которыми управляют люди, чтобы эти операции могли происходить со скоростью и в масштабе машин, в то время как человеческий опыт растет одновременно с этим. Вместе, а не за счет друг друга.
Этот результат не гарантирован. Он произойдет только там, где лидеры относятся к развитию операторов как к приоритету, а не как к второстередной задаче. Для достижения этого агентные системы должны быть намеренно спроектированы так, чтобы раскрывать логику, фиксировать знания и возвращать работу людям таким образом, чтобы развивать навыки и карьеру, а не разрушать их.
Агенты будут становиться всё умнее и быстрее. Способность операторов, работающих бок о бок с ними, учиться и развиваться нога в ногу, определит, станет ли следующее десятилетие цифровой устойчивости тем, чем организации действительно владеют, или тем, что они арендуют у сокращающегося пула экспертов.
Узнайте больше о том, как Cisco Data Fabric на базе платформы Splunk помогает командам ускорять агентные операции.
Камал Хати — старший вице-президент и генеральный директор Splunk, компании Cisco.
Спонсорские статьи — это контент, подготовленный компанией, которая либо платит за публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко промаркированы. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com.
