Несколько недель назад команда из Anthropic поделилась с Mozilla результатами нового метода обнаружения уязвимостей с помощью искусственного интеллекта. Он позволил выявить более десятка ошибок в системе безопасности, которые были исправлены до выхода стабильной версии Firefox 148.

Команда Frontier Red Team из Anthropic связалась с разработчиками Firefox после того, как с помощью Claude выявила уязвимости в движке JavaScript. Важно отметить, что в отчётах об ошибках были указаны тестовые сценарии, которые позволили сотрудникам по безопасности быстро проверить и воспроизвести каждую проблему.

«На протяжении нескольких часов инженеры принялись внедрять исправления, и мы начали тесное сотрудничество с компанией Anthropic, чтобы применить тот же решение к остальной части кодовой базы браузера. В итоге этой работы мы обнаружили 14 критических ошибок и выпустили 22 записи CVE. Все эти ошибки исправлены в последней версии браузера», — сообщила Mozilla в пресс-релизе.

В дополнение к 22 уязвимостей, связанных с безопасностью, Anthropic обнаружила ещё 90 ошибок, большинство из которых уже исправлены.

Компания Anthropic равным образом опубликовала технический отчёт о процессе исследования и полученных результатах, с которым можно ознакомиться здесь.

«Сочетание тщательной разработки с новыми инструментами анализа позволяет постоянно совершенствовать систему. Мы считаем это убедительным доказательством того, что крупномасштабный аналитика с использованием искусственного интеллекта — это мощное дополнение к набору инструментов инженеров по безопасности. За десятилетия Firefox прошёл через много фаззингов и проверок безопасности. Вопреки это, ИИ-модель смогла выявить много ранее неизвестных ошибок», — написала Mozilla.

В компании сообщили, что Mozilla продолжит инвестировать в инструменты, процессы и партнёрство, которые обеспечат дальнейшее развитие Firefox и защиту пользователей.