Apple представила каркас Trust Insights для выявления жертв социальной инженерии

В iOS 27 Apple представила каркас Trust Insights, который оповещает приложения о том, что потребитель может стать жертвой мошенничества.

Как объясняет компания, мошенничество с использованием методов социальной инженерии сложнее обнаружить автоматически, поскольку зачастую действия совершает сам потребитель, «аутентифицированный и законный».

В последние годы всё чаще встречаются мошенничества с использованием технической поддержки, выдачей себя за представителя власти и мошенничество в экстренных ситуациях, особенно с учётом растущей доступности дипфейков с использованием ИИ.

Для противодействия этому Apple представляет фреймворк, который работает преимущественно на устройстве, анализируя «шаблоны взаимодействия, время, контекст и основные данные датчиков».

Если он обнаруживает признаки того, что пользователя могут обманом заставить произвести некие действия, Trust Insights может присвоить средний или высокий уровень риска, позволяя приложению добавлять предупреждения, задержки или дополнительные шаги проверки.

Apple подчёркивает, что Trust Insights не проверяет содержимое фотографий, сообщений или почты. Вместо этого система анализирует поведенческие сигналы на устройстве, немедленно отбрасывает исходные информация и отправляет на серверы Apple только одно выходное значение.

Это значение может быть объединено с информацией из учётной записи Apple пользователя и проверено на наличие необычной активности, прежде чем Trust Insights вернет свою окончательную оценку предполагаемой мошеннической схемы.

Apple заявляет, что, хотя пользователи могут отключить Trust Insights в настройках, может быть предусмотрен период ожидания, «чтобы защитить тех, кого, возможно, убедили выключить эту функцию».

Первоначально Trust Insights будет охватывать пять основных категорий операций:

• .payment: любой обмен активами, контентом или деньгами, включая внутриигровые покупки;

• .account: обновление данных учётной записи или информации о безопасности;

• .resourceUse: запросы к дорогостоящей или ограниченной инфраструктуре, в частности, к выводу ИИ;

• .communication: отправка сообщений, заполнение форм или подписание документов;

• .other: резервный вариант для операций, не подпадающих под вышеперечисленные категории.

Apple добавляет, что разработчикам следует отправлять отзывы через Feedback Assistant, если их скрипт использования относится к категории «другое». Организация равным образом просит разработчиков сообщать о том, как Trust Insights повлиял на каждую транзакцию, и, по возможности, отмечать случаи, которые впоследствии были подтверждены как мошенничество, чтобы помочь усовершенствовать систему.

Ранее Apple добавила в iOS и iPadOS 27 режим восстановления, который позволяет запустить iPhone или iPad в отдельной облегчённой среде без полной загрузки операционной системы, чтобы попасть в меню для диагностики и восстановления. Логика работы режима похожа на восстановление Mac с чипами Apple Silicon.