Киберэксперт UserGate Газизова выявила топ-3 рисков при использовании ИИ для россиян

Эксперт по кибербезопасности UserGate Светлана Газизова выделила некоторое количество ключевых факторов риска при использовании ИИ-сервисов в России. В тройке лидеров оказались: отсутствие критического мышления пользователей, утечки через чат-боты и применение ИИ несовершеннолетними.

По данным исследований, приблизительно 34% россиян старше 12 лет ежемесячно обращаются к ИИ-сервисам, что выводит страну в число 20 мировых лидеров по внедрению нейросетей. Однако массовое распространение технологии сопровождается ростом угроз информационной безопасности и требует от россиян соблюдения правил виртуальный гигиены.

Несмотря на то, что около 32 млн жителей страны активно применяют генеративный ИИ через браузеры, чат-боты и мобильные приложения, пользователи зачастую недооценивают потенциальные угрозы. Риски исходят не только от киберпреступников, использующих дипфейки и фишинговые схемы, но и от неосторожного поведения самих пользователей при взаимодействии с нейросетями.

По мнению эксперта UserGate, первая группа связана с отсутствием критического восприятия информации. Россияне склонны излишне доверять ИИ-сервисам и не перепроверяют полученные данные, перекладывая на алгоритмы когнитивные функции.

«Характерный пример: семья планировала зарубежный отпуск и уточнила у нейросети визовые требования. ИИ уверенно ответил, что виза не нужна. Были куплены билеты и забронирован отель, тем не менее в аэропорту пассажирам отказали в посадке из-за отсутствия документов. Итог — финансовый урон и сорванный отдых. Это типичный пример того, как ИИ искажает факты, а пользователь теряет бдительность», — отмечает Светлана Газизова, владелец продукта по безопасности ИИ UserGate.

Вторая группа рисков касается утечек конфиденциальной информации в связи с излишнего доверия к чат-ботам. Россияне часто не осознают, как их данные используются для дальнейшего обучения моделей.

«Все, что отправляется в Сеть, потенциально может стать доступно третьим лицам. Уже зафиксированы случаи утечек, к которым привёл доступ ИИ к корпоративным и личным данным. Категорически нельзя скачивать в LLM-модели сканы паспортов, финансовые документация или любую чувствительную информацию», — подчёркивает эксперт UserGate.

Отдельным направлением риска Светлана Газизова называет защита детей. Несовершеннолетние пользователи могут запрашивать у языковых моделей информацию, не предназначенную для их возраста, включая инструкции по созданию запрещённых веществ или деструктивному поведению. В связи с этим глобальные регуляторы усиливают контроль за ИИ-сервисами, ограничивая доступ к некоторым моделям для защиты несовершеннолетних.

Эксперт UserGate отмечает, что истинное назначение ИИ заключается не в генерации развлекательного контента, а в ускорении обучения с помощью быстрой обработки и анализа больших массивов данных. При этом языковые модели, обучающиеся на недостоверной информации из открытого интернета, подвержены «галлюцинациям» — непроизвольному искажению данных.

«Относиться к ИИ-сервисам нужно чрезвычайно осторожно и обязательно верифицировать все полученные сведения. Только при условии строгого контроля со стороны человека искусственный интеллект станет эффективным инструментом, а не источником новых проблем», — резюмирует Светлана Газизова.