Microsoft позволит администраторам ознакомиться запросы и ответы ИИ для сотрудников

Microsoft внедрила несколько обновлений в Purview — инструмент обеспечения безопасности и управления данными, используемый в корпоративных средах. Компания представила также функцию для команд безопасности.

Новая опция появится в разделе управления рисками для инсайдеров Purview, которая позволит авторизованному персоналу просматривать потенциально опасные сообщения, отправленные в службы ИИ. Сообщения с индикаторами риска будут отображаться в текстовом виде, и команды равным образом смогут просматривать ответ, отправленный ИИ. Этот контент будет отображаться даже при псевдонимизации пользователя, что, по существу, гарантирует сохранение его конфиденциальности, но не в ущерб безопасности предприятия.

Если сотрудник службы безопасности посчитает, что взаимодействие с ИИ нарушило политику компании, привело к утечке данных или вызвало другие проблемы с соблюдением нормативных требований, он сможет деанонимизировать пользователя при наличии соответствующего разрешения.

Управление доступом на основе ролей и журналы аудита продолжат работать, чтобы гарантировать, что эта возможность не используется не по назначению. 

Предварительная версия функции появится в конце мая, а общедоступная запланирована на второй месяц. 

Ранее Microsoft представила новый инструмент, позволяющий IT-администраторам и специалистам по кибербезопасности управлять состоянием своей инфраструктуры искусственного интеллекта. Платформа объединяет сигналы из Microsoft Defender, Entra и Purview в режиме реального времени.