Главное
ИИ-агенты обнажают брешь в безопасности между данными, которые они читают, и системами, которые они могут изменять
Большинство обсуждений безопасности ИИ по-прежнему вращаются вокруг самой модели: согласована ли большая языковая модель (LLM), можно ли осуществить её взлом (jailbreak), галлюцинирует ли она под давлением?…