Ваши диалоги с ChatGPT читают

404 Media опубликовала расследование о внутренней программе OpenAI под названием Project Lily. Сотни внешних подрядчиков, нанятых через рекрутингового посредника Crossing Hurdles и получающих выплаты через платформу Mercor, читают настоящие промпты и целые диалоги пользователей ChatGPT, оценивают ответы модели и пишут разборы.

Сама практика такой «человеческой» оценки известна давно. Новостью стал масштаб и то, насколько мало о ней знают пользователи. У ChatGPT больше 900 млн пользователей.

Что видят рецензенты

Подрядчики работают с полными разговорами, в том числе те, где есть и ваши личные данные. По описанию 404 Media, наряду с диалогом рецензенту показывают сводку памяти пользователя — накопленный контекст из прошлых чатов, локацию, обстоятельства жизни. Имен пользователей в интерфейсе нет.

Работа устроена так. Рецензент пишет, что именно хотел получить пользователь, затем оценивает несколько вариантов ответа модели по шкале от 1 до 7.

Оплата заметно выше обычной для разметки. Один рецензент из Северной Америки называл ставку больше 50 $ в час. Задачи при этом крутятся вокруг поведения модели. Подавление антропоморфизации, борьба с подхалимством и настройка тона.

Один из подрядчиков сказал 404 Media, что пользователи, по его мнению, вообще не представляют себе, что где-то сидит человек и разбирает их разговоры. Вспоминается история лондонского Builder.ai, который продавал автоматическую сборку приложений, где значительную часть работы делал не ИИ, а живые инженеры в Индии. В мае 2025 года организация с оценкой в 1,5 млрд $ ушла в банкротство. Общее одно — про людей в этой схеме пользователь узнает последним.

Как это обезличивается

За очистку отвечает отдельная схема, Privacy Filter. Она вычищает имена, адреса, почту и телефоны. OpenAI признает ее ограничения: фильтр пропускает редкие идентификаторы и плохо работает там, где деталь значима только в контексте, особенно в коротких переписках.

Механизм описан, только легче от этого не становится. Деанонимизация по косвенным признакам обходится без имени. Представьте разговор, где человек упомянул свой город, профессию, редкий диагноз и дату операции. Каждый элемент по отдельности безобиден, ни на одном фильтр не сработает. Но если кто-то захочет покопать на определенного человека, вместе они складываются в пазл.

Где здесь юридическая тонкость

Законно ли все это? Формально да. Функция «улучшать модель для всех» включена по умолчанию на тарифах Free, Plus и Pro, а политика приватности OpenAI разрешает использовать персональные данные для улучшения моделей. Претензия не к законности, а к тому, что про чтение промптов живыми людьми там прямо не сказано. После запроса 404 Media организация обновила справочную документацию и описала практику явно.

На будущее вопрос закрыт. Зато история хорошо демонстрирует, что формулировка «информация используются для улучшения сервиса» не абстракция, а вполне конкретный человек в иной стране, читающий ваш разговор.

Два пункта, которые стоит знать пользователю. На корпоративных тарифах — Enterprise, Business и Edu — обучение на диалогах выключено по умолчанию. И отказ не распространяется задним числом: разговоры, отправленные до того, как вы сняли галочку, из цикла оценки не исчезают.

OpenAI здесь не уникальна, но условия у всех разные. Anthropic тоже использует человеческую оценку, тем не менее требует явного согласия через настройку «Help improve our AI models», то есть по умолчанию она выключена. Google в Gemini предупреждает о человеческой проверке заметнее, чем OpenAI до публикации 404 Media.

Что это значит

Человек из пайплайна никуда не делся. Он переехал с разметки картинок на оценку поведения моделей и заметно подорожал.

Ставка тут большая. 50 $ с лишним в час платят за экспертную работу, это уровень оплаты сеньора во многих странах. Обратная связь по поведению модели, будь то подхалимство, антропоморфизация или тон, не формализуется в инструкцию для дешевого исполнителя и не снимается автоматической метрикой. Пока RLHF и его наследники остаются основным способом настраивать характер модели, человеческая оценка будет дорожать наряду с требованиями к моделям.

Для тех, кто внедряет LLM в корпоративные процессы, вывод понятен. Тариф определяет не только лимиты. Выяснять надо, попадают ли промпты в цикл человеческой оценки и как это отключается. У корпоративных и api-контуров условия обычно другие, чем у потребительских тарифов, но «обычно» здесь слово слабое, ознакомиться нужно договор.

Минимальный чеклист по любому используемому ассистенту. Включено ли обучение на диалогах по умолчанию и где этот переключатель. Распространяется ли отказ на уже отправленные разговоры или только на будущие. Сколько хранятся логи после отключения. Отличаются ли условия корпоративного тарифа от персонального у тех же сотрудников, которые заходят со своих аккаунтов. Последний пункт ломается чаще всего, потому что политика написана для корпоративного контура, а половина команды пользуется личной подпиской с дефолтными настройками.

ИИ‑роутер — доступ к 300+ моделям из одной панели

Подключите OpenAI‑совместимый шлюз по единому программный интерфейс‑ключу. Настраивайте сквозную аналитику, отслеживайте лимиты и квотируйте ресурсы.

Запустить ИИ‑роутер →