Антиутопическая концепция ИИ от Citrini

33-летний основатель Citrini Research опубликовал свой антиутопический сценарий будущего с искусственным интеллектом на платформе Substack, принадлежащей его компании.

В статье под названием «Глобальный кризис в сфере искусственного интеллекта в 2028 году» описывается гипотетический экономический спад, при котором массовые увольнения «белых воротничков» приводят к дефляционному каскаду, в результате чего уровень безработицы превышает 10%, а цены на акции падают до нуля.

К утру понедельника пост, состоящий из более чем 7000 слов, стал главной темой для обсуждения на рынке.

И когда торги открылись, начались продажи.Индекс S&P 500 быстро перешел из зеленой зоны в красную и по итогам дня упал свыше на 1%.Индекс акций финансовых компаний представил худшие результаты с апреля. Крупный биржевой фонд на основе программного обеспечения упал более чем на 4%. В отчете равным образом упоминаются несколько конкретных компаний, включая ServiceNow Inc., DoorDash Inc. и American Express Co., акции которых упали в цене. Citrini не является держателем акций ни одной из этих компаний.

Идея Citrini Research о том, что искусственный интеллект приведет к массовой безработице, вызывает негативную реакцию инвесторов и экономистов по всему миру.

За последние некоторое количество дней эксперты из Citadel Securities, Deutsche Bank AG, Fidelity International, Liontrust Asset Management Plc и другие заявили, что этот тезис в лучшем случае притянут за уши, а ведущий экономист Белого дома даже назвал его “научной фантастикой”.

Сама компания Citrini предостерегла от слишком буквального понимания отчета, написав во втором предложении поста на Substack объемом 7000 слов, что «ниже представлен публике скрипт, а не прогноз».

Тем не менее, даже в качестве мысленного эксперимента, скрипт конца света на этой неделе произвел фурор на Уолл-стрит и привел к еще большим потерям в акциях компаний, занимающихся разработкой программного обеспечения и финансовых компаний. Инвесторы и так настороженно относятся к возможностям искусственного интеллекта, а отчет подлил масла в огонь, представив мир, в котором ИИ приведет к массовым увольнениям среди «белых воротничков», обвалу фондового рынка и росту безработицы выше 10%.

В частности, критики сосредоточились на тезисе Citrini о том, что искусственный интеллект приведет к возникновению отрицательной обратной связи, назвав это «спиралью вытеснения человеческого интеллекта», при которой компании инвестируют в искусственный интеллект и сокращают штат сотрудников. Поскольку уволенные сотрудники тратят меньше, стремление сохранить прибыль вынуждает компании внедрять еще больше искусственного интеллекта, и цикл повторяется.

Некоторая часть рыночной нервозности, вызванной Citrini, уже ослабла.

Фьючерсы на индекс Nasdaq указывают на рост на 0,4 процентов к моменту открытия американских рынков, что добавит к росту на 1,1 процентов во вторник.

Восстановлению мировых фондовых рынков способствовали комментарии компании Anthropic PBC, которая заявила, что планирует развивать партнёрские отношения, предполагая, что её чат-бот Claude будет интегрироваться с существующими компаниями, а не вытеснять их.

По данным Citadel Securities, на основании опросов Федерального резервного банка Сент-Луиса и показателей рынка труда можно сделать вывод, что повсеместная автоматизация труда с помощью искусственного интеллекта пока не грозит.

В последние месяцы резко возросло количество вакансий для инженеров-программистов — специалистов в области, которая считается уязвимой для автоматизации.

Помимо этого, наблюдается рост числа вакансий в сфере строительства, чему способствует бум проектов по созданию центров обработки данных, связанных с искусственным интеллектом, пишет макростратег Фрэнк Флайт в своем отчете.

По его словам, искусственный интеллект не заменит людей, а «скорее станет дополнением» к рабочей силе во многих областях, как это было во время предыдущих технологических революций. «Чтобы правильно сформулировать эту дискуссию, можно просто спросить: стал ли Microsoft Office дополнением или заменой офисных работников?» — добавил Флайт.

Такого же мнения придерживается Клэр Плейделл-Бувери, соруководительница команды Liontrust Global Innovation. По ее словам, новые технологии приведут к исчезновению некоторых профессий, но одновременно создадут новые.

«Сейчас в Кремниевой долине появляются новые профессии, которых не было еще два года назад. Инженеры по промпт-инжинирингу, специалисты по оптимизации помех. Так что мы думаем, что и в этой сфере нас ждут хорошие новости», — добавила она.

По мнению Кришны Гухи, руководителя отдела стратегии центральных банков в Evercore, одна из проблем, связанных с реализацией концепции Citrini, заключается в том, что во многих сферах деятельности взаимодействие с людьми может иметь решающее значение, что, по сути, дает компаниям, не использующим искусственный интеллект, конкурентное преимущество.

Помимо этого, существуют ограничения на скорость распространения ИИ в связи с энергетических ограничений.

«Даже если бы технологии и микроэкономика развивались согласно этим сценарием, маловероятно, что макроэкономика пошла бы по тому же пути, поскольку для этого потребовался бы ряд экстремальных и маловероятных условий», — пишет Гуха.

Вот что говорили другие:

Пьер Яред, исполняющий обязанности председателя Совета экономических консультантов при Белом доме

«Доклад Citrini — это занимательный научно-фантастический статья, а я люблю научную фантастику, — сказал Яред в кратком интервью после выступления в Национальной ассоциации экономики бизнеса в Вашингтоне. — Но я думаю, что если вдуматься и хорошенько поразмыслить, то можно заметить, что он противоречит некоторым базовым принципам экономики».

«Искусственный интеллект может стать либо революционной инновацией, которая увеличит производительность, доходы и расходы, либо инновацией, которая не оправдает ожиданий».

Салман Ахмед, глобальный руководитель отдела макроэкономики в Fidelity International

По его словам, политические лидеры примут меры для защиты работников, которых вытеснит искусственный интеллект. Помимо этого, внедрение новых инструментов на основе ИИ, скорее всего, будет происходить постепенно, поскольку это энергозатратный процедура, а многие программные системы уже глубоко интегрированы в корпоративные процессы.

«Политики — не дураки, — сказал Ахмед. — В конечном счете уровень безработицы влияет на формирование политики. Если появится технология, которая сможет делать все — а до этого еще далеко, — то кто будет платить налоги? Будут ли налоги платить роботы?»

«В системе есть естественные ограничения, — сказал он, — которые не допустят резкого потрясения на рынке труда».

Эд Ярдени, основатель Yardeni Research

«Искусственный интеллект — это искусственный, но не разумный интеллект. Результаты работы больших языковых моделей кажутся разумными, но эти модели понятия не имеют, что на самом деле означают слова».

«История искусственного интеллекта превратилась из истории о том, как в 2020-е годы технологии повышали производительность, в историю об экзистенциальной угрозе нашему образу жизни. Мы по-прежнему верим, что искусственный интеллект повышает производительность труда, а не приводит к его исчезновению».

Джим Рейд, руководитель отдела глобальных макроэкономических исследований и тематических стратегий Deutsche Bank

«Этот аргумент в значительной степени опирается на повествование и эмоции, а не на неопровержимые доказательства. Это не значит, что он в корне неверен, но в обоих случаях соотношение эмоций и фактов, несомненно, велико. На этом я остановлюсь, пока кто-нибудь не обвинил в том же самое мои собственные исследования».