Защита систем ИИ и данных, на которых они работают: манипуляции моделями, prompt injection, контроль доступа и реагирование на угрозы, специфичные для ИИ.
Инфостилеры перенесли украденные файлы cookie сеансов Claude в платные учетные записи, не затрагивая при этом двухфакторную аутентификацию на странице входа. Учетные записи, отмеченные Anthropic, — это оплачиваемые с банковских карт…
Эджиджо ЧоффИ (Egiziago Cioffi) — ИТ- и корпоративный архитектор, а также генеральный директор SynSphere Italia, миланского партнера Microsoft. Он сам создал ИИ-агент. Написал задачу индексации, настроил конвейер извлечения данных (retrieval…
Материал предоставлен компанией Box Идентификации и разрешений больше недостаточно для обеспечения безопасности корпоративных ИИ-агентов. Они регулируют то, к чему агент может получить доступ, но не то, как он ведет себя,…
Корпоративный ИИ вступил в новую эпоху. Организации стремительно переходят от ассистентов, отвечающих на вопросы, к автономным агентам, способным рассуждать, использовать инструменты, обращаться к корпоративным приложениям, координировать свои действия с другими…
В развертывании ИИ-агентов прослеживается четкая повторяющаяся тенденция: шлюз — это первый элемент управления, к которому обращаются команды, но к его работе они оказываются наименее готовы. Все потому, что шлюзы надстраиваются…
При поддержке Nutanix Автономные системы, способные рассуждать, принимать собственные решения и выполнять действия в определенной среде, создают категорию рисков, для сдерживания которых средства контроля на уровне приложений никогда не предназначались.…
Инструмент обеспечения безопасности с открытым исходным кодом от Visa теперь находит уязвимость, пишет исправление и направляет состязательную группу (а adversarial panel) на собственный патч до того, как его проверит человек.…
При поддержке EDB Поскольку предприятия предоставляют ИИ-агентам все большую автономию — возможность планировать, принимать решения и действовать в различных системах без одобрения каждого шага человеком, — перед каждым архитектурным обзором…
Специалист по безопасности прочитал лог Cloudflare, обнаружил в нем внедренный злоумышленником пейлоад для инъекции промптов (prompt-injection) и переписал DNS компании. Межсетевой экран уже заблокировал этот пейлоад, причем именно в результате…
CISO, который видит низкое количество CVE и снижает приоритет борьбы с промпт-инъекциями (prompt injection), совершенно не понимает сути происходящего. Пrompt-инъекции занимают первое место в рейтинге OWASP Top 10 для приложений…
Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности
Подписаться по RSSRSS-ленты обновляются каждые 15 минут. Материалы переведены с venturebeat.com.
