Microsoft призвала пользователей Copilot Cowork внимательнее подтверждать действия ИИ

Microsoft недавно представила Copilot Cowork — инструмент на базе ИИ‑агентов, способный автоматизировать много рабочих процессов, в том числе разработку приложений. Теперь организация предупредила пользователей о мерах предосторожности при работе с ним. 

Microsoft разместила заметные уведомления о возможных ошибках ИИ и необходимости проявлять крайнюю осторожность на каждом этапе работы. Организация подчеркивает, что конечную ответственность за результат несёт потребитель, а не инструмент. В тексте говорится: «Microsoft Copilot использует ИИ и может допускать ошибки, неверно истолковывать инструкции или поддаваться на скрытые вредоносные команды. Пожалуйста, внимательно проверяйте результаты и важные детали, особенно при выполнении задач, связанных с платежами, личными данными, общением с другими людьми или изменением учётных записей и файлов. При выполнении критически важных действий Copilot будет запрашивать ваше подтверждение или возвращать управление вам. Вы несёте ответственность за действия, выполняемые Copilot от вашего имени. Использование Copilot означает ваше согласие с Условиями использования».

В дополнение к этого, недавно была добавлена веб-страница поддержки, посвящённая новой функции «Approve actions» (подтверждение действий) в Cowork. Как следует из названия, эта функция запрашивает разрешение пользователя, прежде чем ИИ приступит к выполнению назначенной задачи. На этой странице равным образом размещён крупный предупреждающий баннер, напоминающий пользователям: «Вы несёте ответственность за действия, выполняемые Copilot от вашего имени. Всегда проверяйте детали в диалоговом окне подтверждения перед продолжением. Убедитесь в правильности выбора получателей, содержания и других параметров. Не пропускайте запросы на подтверждение действий, в которых вы не уверены, поскольку Copilot может допускать ошибки, неверно истолковывать инструкции или поддаваться на обман».

Новый алгоритм запросов (диалоговое окно подтверждения действий) позволяет выполнять конкретную задачу только после одобрения пользователем или администратором, однако при этом предусмотрена функция отмены операции с помощью соответствующей кнопки. Важным преимуществом является то, что Cowork даёт возможность приостановить выполнение задачи даже после того, как юзер дал своё согласие; в дальнейшем можно либо продолжить процесс, либо полностью его отменить.

Microsoft перечислила сценарии, в которых чаще всего требуются подобные подтверждения. К ним относятся ситуации, когда веб-сайт или приложение ограничивают автоматизированное взаимодействие, требуют дополнительных этапов авторизации или действий вручную (например, при совершении покупок, бронировании или доступе к защищённому контенту), либо создают иные сложности. Основные примеры таких случаев приведены ниже:

• финансовые операции, такие как совершение покупки или проведение платежа;

• передача личных данных (имен, адресов, номеров телефонов и так далее) на сторонние веб‑сайты;

• действия, затрагивающие других людей, в частности отправка электронных писем или сообщений;

• действия, связанные с изменением учётной записи: исключение файлов, модификация содержимого облачного хранилища, отмена подписок или смена настроек аккаунта;

• операции с конфиденциальной информацией: отправка сведений о состоянии здоровья, работа с правительственными документами или внесение изменений, касающихся безопасности.

Copilot Cowork представили весной. Этот средство автоматизации способен выполнять комплексные многоступенчатые задачи от имени пользователя, взаимодействуя с различными приложениями экосистемы Microsoft 365: Outlook, Teams, Excel, PowerPoint и SharePoint. Copilot Cowork функционирует как облачный агент, использующий систему контекстной аналитики Work IQ. Система анализирует информация из писем, календаря, сообщений и документов пользователя для формирования релевантного контекста при выполнении задач.