Статьи по тегу «промпт-инъекции»
1 октября 2026, 14:07
В OpenAI раскрыли свежий тип атак на ИИ‑агентов
Компания OpenAI рассказала о новом типе атак на ИИ‑агентов. Он предполагает внедрение вредоносной инструкции, которая заставляет схема не только выполнить команды злоумышленника, но и перенести саму п
16 июля 2026, 16:56
OpenAI выпустила GPT‑Red — схема для поиска уязвимостей
Организация представила GPT‑Red — внутреннюю модель, которая автоматизирует редтиминг (проще — поиск уязвимостей, но каламбур мы оценили) всей продукции OpenAI. Средство симулирует промпт-инъекции и с
13 июля 2026, 09:57
Способ атаки Ghostcommit скрывает подсказки в изображениях для кражи секретов у ИИ-агентов
Исследователи разработали метод атаки Ghostcommit через pull request, позволяющий похитить секретные информация репозитория. Вредоносная инструкция скрывается внутри PNG-изображения, которое ИИ-инстру