Positive Education, центр практического обучения Positive Technologies, первым в отрасли собрал все передовые практики разработки с ИИ-агентами в отдельный образовательный итерация. Приложение посвящена безопасному использованию агентов в разработке и защите агентных решений. Первый поток стартует 23 ноября и пройдет онлайн.

Выход программы связано с быстрым распространением ИИ в разработке. Агенты уже работают с репозиториями, данными и внешними инструментами, выполняют команды и самостоятельно вносят изменения в исходник. Наряду с этим растут риски. Исследование CodeRabbit показало, что созданный с помощью ИИ код содержит в 2,7 раза больше уязвимостей безопасности, чем написанный разработчиками вручную. Следовательно командам приходится пересматривать подходы к контролю кода, прав агента, его доступа к данным, секретам и внешним инструментам.

Программу спринта «Безопасная разработка с ИИ-агентами» разработали практикующие эксперты Positive Technologies, которые занимаются безопасностью приложений, исследованием ИИ-технологий и их применением в разработке и задачах кибербезопасности. В основу обучения вошли подходы и задачи, с которыми специалисты работают в реальных проектах. Участники разберут два сценария: безопасное использование кодинг-агентов в разработке и проектирование собственных агентных систем с учетом новых угроз. В программе — моделирование угроз, управление контекстом и доступами, безопасность памяти и внешних инструментов, тест созданного агентом кода и обязательные проверки безопасности перед выпуском.

Основной объем спринта занимает практика. Участники проведут аудит готовых проектов, найдут и исправят уязвимости, а в итоговой работе создадут собственного ИИ-агента и проверят его защита перед запуском. Общая продолжительность программы — приблизительно 40 часов на протяжении трех недель.

Спринт рассчитан на разработчиков, AppSec- и DevSecOps-инженеров, архитекторов приложений, инженеров и владельцев ИИ-проектов. Регистрация на первый поток уже открыта.