Глава Signal: чат-боты вам не друзья, а ИИ-агенты — бэкдор

Президент Signal Мередит Уиттакер в интервью Bloomberg высказалась о чат-ботах вроде ChatGPT и Claude предельно жестко. На вопрос о том, что эти системы означают для приватности, она ответила: "Это не ваши друзья. Это не разумные существа. Это не чувствующие собеседники". Разбор интервью опубликовал TechCrunch.

Сама Уиттакер призналась, что ИИ все же использует — но только чтобы "отформатировать документ время от времени". Вопросов ботам она не задает принципиально: по ее словам, она серьезно относится к своему мышлению и письму и не хочет, чтобы процесс обдумывания идеи перекрывала платформа, которая просто усредняет уже существующее в сети.

Но главную тревогу у нее вызывают не сами чат-боты, а их превращение в агентов с доступом к вашим данным и правом действовать за вас. Поводом стало обещание главы Microsoft AI Мустафы Сулеймана: уже в этом году Copilot сможет взять на себя все рождественские покупки — например, прослушав семейный групповой чат, чтобы понять, кто какой подарок хочет. Уиттакер перевела эту красивую картину обратно на язык разрешений.

Чтобы провернуть такое, ассистенту нужен доступ к банковской карте, браузеру, мессенджеру Signal, праву писать родственникам от вашего имени, домашнему адресу и календарю. "То, что вы описали, — это система с весьма широким доступом сразу к множеству приложений и сервисов, — сказала Уиттакер. — В рамках Signal это было бы чем-то вроде бэкдора". Вес этим словам придает должность: Уиттакер возглавляет Signal с 2022 года, а криптографический протокол мессенджера используется в том числе в WhatsApp с его двумя с лишним миллиардами пользователей.

За словом "бэкдор" стоит более общий тезис: агентный ИИ плохо совместим со сквозным шифрованием. Если ассистент читает сообщения до того, как они зашифрованы, или после расшифровки, то шифрование переписки теряет смысл — данные все равно обрабатываются в открытом виде прямо на устройстве. Позиция Уиттакер идет вразрез с мейнстримом индустрии, где агентное будущее подают как неизбежный и сплошь удобный скрипт. Ее ставка проста: чем больше ассистент умеет делать за вас, тем больше границ между приложениями он стирает — и тем меньше у вас остается приватности.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.