Сервис здравоохранения Великобритании закроет репозитории в связи с активности ИИ в ИБ

Теренс Иден, участвовавший в продвижения открытых стандартов и открытого ПО в госучреждениях Великобритании, сообщил, что Национальная служба здравоохранения страны (NHS) готовится закрыть почти все свои репозитории с открытым исходным кодом в связи с то, что инструменты LLM, такие как Mythos от Anthropic, всё активнее и успешнее находят уязвимости безопасности. 

Иден раскритиковал это решение:

Большинство репозиториев кода, опубликованных NHS, не подвержены существенному влиянию каких-либо достижений в области сканирования безопасности. Главным образом это наборы данных, внутренние инструменты, руководства, исследовательские инструменты, оформление интерфейса и тому подобное. В них нет ничего, что могло бы реально привести к инциденту безопасности.

Когда я работал в NHS во время пандемии, мы были настолько уверены в безопасности и необходимости открытого исходного кода, что позаботились о том, чтобы приложение для отслеживания контактов с больными COVID-19 было открыто для публичного доступа, как только оно стало доступно. Это было программа, утверждённое на национальном уровне, установленное на миллионах телефонов, подвергавшееся пристальному вниманию со стороны враждебных сил — и однако, несмотря на публикацию кода, архитектуры и документации, открытый исходный исходник не вызвал ни одного инцидента безопасности.

Иден напомнил также, что новые рекомендации прямо противоречат пункту 3 Кодекса практики технологического сектора Великобритании «Будьте открыты и используйте публичный исходный исходник», который настаивает на опенсорсном подходе.

Ранее сообщалось, что компании, разрабатывающие ИИ-сервисы, нашли новый ресурс данных для обучения своих моделей. Они начали скупать у закрывающихся стартапов рабочие переписки в мессенджерах, тикеты в Jira, письма в электронной почте и другие внутренние материалы.