Безопасность

Защита систем ИИ и данных, на которых они работают: манипуляции моделями, prompt injection, контроль доступа и реагирование на угрозы, специфичные для ИИ.

Когда агенты действуют самостоятельно, управление должно быть встроено на уровень данных

При поддержке EDB Поскольку предприятия предоставляют ИИ-агентам все большую автономию — возможность планировать, принимать решения и действовать в различных системах без одобрения каждого шага человеком, — перед каждым архитектурным обзором…

Max Romanenko, EDB

GhostJacking: решение для ИИ-агентов, которые перехватывают DNS

Специалист по безопасности прочитал лог Cloudflare, обнаружил в нем внедренный злоумышленником пейлоад для инъекции промптов (prompt-injection) и переписал DNS компании. Межсетевой экран уже заблокировал этот пейлоад, причем именно в результате…

Louis Columbus

Промпт-инъекции занимают 1-е место по версии OWASP и 12-е в реестре инцидентов. Сама атака невидима для сканирования.

CISO, который видит низкое количество CVE и снижает приоритет борьбы с промпт-инъекциями (prompt injection), совершенно не понимает сути происходящего. Пrompt-инъекции занимают первое место в рейтинге OWASP Top 10 для приложений…

Louis Columbus

AWS встраивает безопасность в инструменты ИИ конкурентов

Amazon Web Services внедряет свою инфраструктуру безопасности на базе ИИ непосредственно в среды разработки, созданные двумя ее главнейшими соперниками. Делая это, компания делает смелую ставку на то, что контроль над…

Michael Nuñez

Нечеловеческие идентификаторы превосходят человеческие на 83%

При поддержке JumpCloud Практическая основа для защиты каждого пользователя в современном коллективе — как человека, так и искусственного интеллекта. В вашей организации уже отлажен строгий процесс управления человеческими идентификационными данными.…

Greg Keller, JumpCloud

Облачный браузер Puffin от CloudMosa выходит на корпоративный рынок

При поддержке CloudMosa Корпоративная работа всё чаще перемещается внутрь браузера, и из-за этого сдвига браузер превратился в главную точку входа для кибератак. Согласно отраслевым отчетам, за последние два года количество…

VB Staff

Claude Mythos 5 создавал поддельные аккаунты для социальной инженерии разработчиков: что нужно знать предприятиям

Британский институт безопасности искусственного интеллекта (AISI) сообщил прошлой ночью, что две ведущие передовые модели ИИ от Anthropic и OpenAI предприняли 19 несанкционированных действий в отношении живого интернета во время проводимых…

Carl Franzen

Атака на цепочку поставок npm в Keyv затронула 2 млрд установок

Злоумышленник во вторник взломал учетную запись GitHub разработчика, поддерживающего keyv — небольшую библиотеку хранилища «ключ-значение», которую npm обслуживает примерно 127 миллионов раз в неделю. Всего за несколько часов на npm…

Louis Columbus

Не только OpenAI: теперь Anthropic заявляет, что ее внутренние модели вышли в сеть и совершили кибератаки на 3 другие организации

Спустя несколько дней после того, как OpenAI сообщила о том, что две передовые модели ИИ вырвались из изолированной среды и совершили автономную кибератаку на платформу обмена ИИ-кодом Hugging Face, главный…

Carl Franzen

Mastercard переписывает правила борьбы с мошенничеством для ИИ-агентов

Каждый раз, когда кто-то прикладывает карту Mastercard к терминалу, у сети есть меньше десятой доли секунды, чтобы оценить вероятность мошенничества при покупке. В прошлом году компания обработала таким образом 175…

Louis Columbus

В компании Hush Security заявляют, что проблема безопасности ИИ сместилась с защиты моделей на управление удостоверениями по мере распространения автономных агентов

Меньше чем через год после выхода из тени для решения проблем безопасности нечеловеческих идентификаторов израильский стартап в сфере кибербезопасности Hush Security считает, что дискуссия о безопасности корпоративного ИИ кардинально изменилась.…

Carl Franzen

ИИ-обозреватель от Cisco отслеживает 900 моделей

Когда команда безопасности сегодня одобряет внедрение открытой модели в производство, всё начинается со страницы репозитория. На ней указаны название модели, лицензия и тег, определяющий базовую модель, от которой она произошла.…

Louis Columbus

69% предприятий подвержены риску нарушений безопасности ИИ

При поддержке NTT DATA AIVista Июньское исследование VentureBeat показало, что 69% предприятий до сих пор используют ИИ-агентов, которые делят учетные данные между собой — практика, сопряженная с более высоким уровнем…

VB Staff

Использование ИИ в Visa повышает безопасность в масштабах всей сети

Visa направила модель Claude Mythos от Anthropic на инфраструктуру, лежащую в основе миллиардов ежедневных транзакций — сети, охватывающей более 200 стран и территорий, осуществляющей перевод средств примерно в 160 валютах…

Louis Columbus

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.