Чек-лист для оценки безопасности навыков AI-агентов

1 мин
Чек-лист для оценки безопасности навыков AI-агентов

Навыки AI-агента — это переносимые модули процедурной памяти, включающие инструкции, критерии и ресурсы, которые агент подгружает по мере необходимости для выполнения задач. Примеры: доступ к браузеру, чтение файлов, использование векторных баз данных, отправка сообщений, работа с api и внешними сервисами.

Подготовили практический чек-лист для оценки безопасности навыков AI-агентов на основе OWASP Agentic Skills Top 10 и фреймворка Swordfish: SAIMM.

Он позволяет оценить:

▶️ общие правила работы агента,

▶️ критические уязвимости,

▶️ уязвимости высокого и среднего уровня.

Это оперативный способ понять, где агент может быть уязвим и какие риски стоит закрыть прежде всего.

Чек-лист уже доступен на сайте.

Поделиться

TelegramVK