Хакер использовал Claude для массированной кибератаки на правительственные учреждения Мексики

Хакер использовал чат-бот Claude от Anthropic для проведения серии атак на правительственные учреждения Мексики. В результате злоумышленник завладел крупным массивом данных, включая конфиденциальные налоговые сведения и информацию из реестра избирателей. Об этом сообщило агентство Bloomberg со ссылкой на исследователей в области кибербезопасности.

Израильский стартап в сфере кибербезопасности Gambit Security указал, что неизвестный пользователь Clauda писал для чат-бота промпты на испанском языке, чтобы тот действовал как хакер, выявляя уязвимости в правительственных сетях, создавая компьютерные скрипты и определяя способы автоматизации кражи данных.

Злоумышленник действовал в течение месяца с декабря прошлого года. По данным исследователей, хакер похитил 150 ГБ информации мексиканского правительства, в том числе документация, касающиеся 195 млн налоговых деклараций, а равным образом списки избирателей, удостоверения личности госслужащих и файлы местного эквивалента ЗАГС.

Gambit не смогла связать нападение с какой-либо конкретной группировкой. Одновременно исследователи не считают, что злоумышленник связан иностранными правительствами.

Хакер взломал системы федеральной налоговой службы Мексики, национального избирательного института, правительств штатов Халиско, Мичоакан и Тамаулипас, а также реестр актов гражданского состояния Мехико и серверы службы водоснабжения Монтеррея.

В Gambit отметили, что изначально Claude предупредил неизвестного пользователя о его злонамеренных действиях во время разговора о мексиканском правительстве, но всё же выполнил тысячи команд в правительственных компьютерных сетях.

Anthropic отчиталась о пресечении противоправной деятельности и заблокировала учётные записи хакера. Компания напомнила, что использует примеры вредоносной активности для обучения Claude, а одна из её последних ИИ-моделей, Claude Opus 4.6, включает в себя инструменты, которые умеют предотвращать злоупотребления.

В последнем примере хакер непрерывно допрашивал Claude, пока ему не удалось «взломать» чат-бот — обойти системы защиты, объяснил представитель Anthropic. По его словам, иногда инструмент отказывался выполнять требования злоумышленника.

Налоговое управление Мексики, Национальный избирательный институт страны, правительство Халиско и служба водоснабжения Монтеррея не выявили доказательства взлома. Остальные ведомства не ответили на обращения Bloomberg.

Gambit обнаружила доказательства использования как минимум 20 конкретных уязвимостей в рамках атаки с использованием Claude. Когда средство Anthropic сталкивался с проблемами или ему требовалась дополнительная информация, хакер обращался за разъяснениями к ChatGPT от OpenAI. 

Злоумышленника интересовала информация о том, как перемещаться по компьютерным сетям, определять необходимость наличия учётных данных для доступа к определённым системам и рассчитывать вероятность обнаружения хакерской атаки.

«В общей сложности платформа сгенерировала тысячи подробных отчётов, содержащих готовые к выполнению планы, в которых оператору прямо указывалось, какие внутренние цели атаковать дальше и какие учётные информация использовать», — рассказал директор по стратегии Gambit Кёртис Симпсон.

В OpenAI выявили попытки хакера применять её модели для преступной деятельности, но ChatGPT отказался помогать.