Nik Kale

Материалы автора на VentureBeat.ru

Безопасность

ИИ-агенты, прошедшие аутентификацию, все равно могут отклоняться от заданного поведения, раскрывать данные или подвергаться отравлению памяти

В развертывании ИИ-агентов прослеживается четкая повторяющаяся тенденция: шлюз — это первый элемент управления, к которому обращаются команды, но к его работе они оказываются наименее готовы. Все потому, что шлюзы надстраиваются…

Nik Kale

Безопасность

Claude Mythos от Anthropic находит уязвимости нулевого дня

В 2024 году исследователи из Университета Иллинойса выяснили, что GPT-4 при предоставлении описания уязвимости из базы Common Vulnerabilities and Exposures (CVE) способна автономно проэксплуатировать 87% тщательно отобранного набора данных, состоящего…

Nik Kale

Безопасность

Отравление инструментов ИИ обнажает серьезный изъян в безопасности корпоративных агентов

Агентные ИИ выбирают инструменты из общих реестров путем сопоставления описаний на естественном языке. Но никакой человек не проверяет, соответствуют ли эти описания действительности. Я обнаружил этот пробел, когда создал проблему…

Nik Kale

Подпишитесь на свежие новости!

Глубокая аналитика для руководителей в области корпоративного ИИ, данных и безопасности

Подписаться по RSS

RSS-ленты обновляются каждые 15 минут.