МВД предупредило о мошеннических ссылках в выдаче ChatGPT

Алгоритмы нейросетей, в том числе ChatGPT, перенаправляли пользователей на мошеннические ресурсы, предназначенные для хищения денег и личных данных. Об этом говорит Управление по организации борьбы с противоправным использованием информационно‑коммуникационных технологий МВД со ссылкой на исследование сервиса проверки на мошенничество Ask Silver.

В сообщении говорится, что иногда алгоритмы ИИ могут выдавать устаревшие и неактуальные данные. В составленных нейросетями рекомендациях высвечивались сайты‑двойники по продаже вещей и мебели. Ресурсы копировали фирменную символику и описания товаров брендов, прекративших существование. В некоторых случаях покупателям предлагали скидки до 80%.

«По версии специалистов, злоумышленники могли использовать способ „отравления данных“. Они намеренно распространяли в сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации. Цель таких действий — исказить обработку и сортировку информации алгоритмами искусственного интеллекта», — пишет МВД.

Для обеспечения безопасности киберполиция советует проводить перекрёстную оценку ресурсов, а именно сравнивать полученную информацию на других поисковых платформах и искать первоисточник.