ChatGPT для взрослых заморожен бессрочно — OpenAI теперь строит «суперприложение»

OpenAI отложила на неопределенный срок запускание эротического режима ChatGPT, известного внутри компании под кодовым названием Citron mode. Как говорит Financial Times, подход принято после давления со стороны сотрудников и инвесторов — их беспокоило влияние сексуализированного ИИ-контента на общество и риски доступа несовершеннолетних.

Организация заявила, что хочет дождаться результатов долгосрочных исследований о влиянии откровенных чатов и эмоциональной привязанности к ИИ, прежде чем принимать продуктовое подход, и признала отсутствие "эмпирических данных" на этот счет. Инвесторов, по данным издания, смущали репутационные риски при относительно скромном потенциале монетизации. Часть сотрудников считала, что продукт, поощряющий романтические отношения с ИИ, противоречит миссии OpenAI. "ИИ не должен заменять друзей и семью — людям нужны человеческие связи", — объяснил мотивы ухода один из бывших топ-менеджеров.

В дополнение к этических вопросов, команда столкнулась с техническими трудностями: модели, которые годами обучали избегать подобных диалогов, оказалось сложно переучить на генерацию откровенного контента. Отдельной проблемой стала фильтрация обучающих данных — из них нужно было исключать незаконный контент. Платформа верификации возраста, которую OpenAI внедрила после серии исков от семей подростков, пока допускает ошибки свыше в 10% случаев.

Заморозка adult mode — часть более широкого разворота. Во вторник OpenAI объявила о сворачивании видеогенератора Sora и социального приложения. Руководство компании теперь полагает такие проекты "побочными квестами" и перенаправляет ресурсы на продуктивные инструменты — ассистент для кода Codex, браузер Atlas и ChatGPT планируется объединить в единое "суперприложение".

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.