Экономист счел приемлемым 33% шанс вымирания от ИИ. Теперь он работает на Anthropic

Anthropic нанимает Чеда Джонса — одного из самых известных в мире специалистов по экономике роста, профессора Стэнфорда. С 30 июня он уходит из университета в отпуск и присоединяется к Anthropic Institute, внутреннему исследовательскому центру компании. На деталь, которая делает этот найм пикантным, обратила внимание Financial Times: по расчетам самого Джонса, человечеству может быть выгодно сознательно пойти на риск собственного вымирания ради ускорения прогресса.

Речь о его статье 2023 года The AI Dilemma: Growth versus Existential Risk. В ней Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и полагает, при каком соотношении ставка оправдана. Если заложить вероятность катастрофы 1% в год в течение 40 лет, шанс пережить такую "ИИ-революцию" составляет около 67% (математически это exp(−0.01 × 40)). Иными словами, при определенном наборе допущений получается, что оптимально принять шанс примерно 1 к 3 на конец человечества — в обмен на 2/3 вероятности поднять уровень жизни в 55 раз.

Важно, что 33% — это не прогноз Джонса и не его личный призыв сыграть в рулетку с цивилизацией. Это вход в схема: он подставляет 1% в год как иллюстрацию и показывает, при какой цене формальная "оптимизация благосостояния" перестает спасать человечество. Причем итог держится на конкретном допущении — логарифмической функции полезности; стоит изменить предпосылки о том, как мы ценим само существование, и вывод разворачивается в сторону куда большей осторожности. Сам Джонс — скорее ИИ-оптимист, и число у него описывает не размер угрозы, а порог, за которым холодная математика начинает звучать чудовищно.

Anthropic Institute, куда идет ученый, компания запустила в марте 2026 года под руководством сооснователя Джека Кларка. Центр объединил три внутренние команды — Frontier Red Team (стресс-тесты моделей), Societal Impacts (влияние ИИ на общество) и Economic Research (влияние на экономику и занятость). Экономистов туда собирают целенаправленно: до Джонса в институт уже пришли Антон Коринек из Университета Вирджинии и Зоя Хитциг, ранее изучавшая социально-экономические эффекты ИИ в OpenAI.

Отсюда и ирония, которую подсвечивает FT. Anthropic настойчиво позиционирует себя как "совесть индустрии" — ответственную лабораторию, честно говорящую и о грандиозных возможностях ИИ, и о его рисках. И эта же компания берет в штат человека, чья схема хладнокровно выводит гибель человечества как приемлемую цену прогресса. По существу, это отражение фирменной риторики гендиректора Дарио Амодеи: он годами повторяет, что люди недооценивают одновременно и масштаб пользы от ИИ, и серьезность его опасностей. Джонс доводит обе стороны этого тезиса до формул — и именно поэтому, видимо, оказался компании интересен.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.