Один ИИ против целого НИИ: DeepMind объяснила, где начинается сверхинтеллект

Google DeepMind опубликовала доклад "From AGI to ASI" о том, как искусственный интеллект будет развиваться после достижения человеческого уровня. Среди авторов — сооснователь DeepMind Шейн Легг, которому приписывают сам термин AGI, и Маркус Хаттер, создатель математической теории универсального интеллекта. Это первая работа крупной лаборатории, целиком посвященная не вопросу "когда появится AGI", а тому, что будет после.

Главное в репорте — планка. AGI разработчики определяют как систему уровня медианного человека на большинстве когнитивных задач. А вот сверхинтеллект (ASI) должен превосходить не отдельного гения, а десятки тысяч скоординированных экспертов, которые работают над одной задачей десять лет. По масштабу это целое научное направление или крупная корпорация. Есть и хитрая оговорка: эксперты берутся с технологиями уровня 2010 года — иначе планка сдвигалась бы вечно, ведь люди с доступом к мощному ИИ сами становятся способнее.

От AGI к ASI разработчики видят четыре пути, которые могут функционировать параллельно:

• дальнейшее масштабирование вычислений, моделей и данных;

• смена парадигмы — принципиально новые архитектуры вместо трансформеров;

• рекурсивное самоулучшение, когда ИИ ускоряет разработку следующих версий ИИ;

• коллективы из множества ИИ-агентов, чей суммарный интеллект превышает возможности каждого по отдельности.

Одновременно гарантий никто не дает. Для каждого пути в докладе перечислены узкие места: исчерпание качественных данных для обучения, слишком быстрый увеличение потребления энергии, недостаток финансирования, удорожание самих исследований по мере того, как "низко висящие плоды" сорваны, и возможное сознательное замедление со стороны регуляторов. Станут ли эти факторы непреодолимой стеной или лишь притормозят прогресс — открытый научный вопрос, честно пишут авторы.

Сроков в докладе нет вообще. Зато есть два отрезвляющих тезиса. Первый: сверхинтеллект не будет всемогущим — он ограничен скоростью света, законами термодинамики, теорией сложности и теоремами Геделя, поэтому обещания вроде "ИИ победит старение" остаются гипотезами. Следующий: вместо одного резкого скачка человечество, скорее всего, ждет серия трансформаций — по мере того, как ИИ будет ускорять прогресс в разных областях науки и технологий.

А самая необычная деталь спрятана в первом разделе. Авторы прямо рекомендуют людям не читать отчёт, а попросить своего ИИ-ассистента пересказать его — и оставили для ассистентов отдельные инструкции: что обязательно упомянуть, какие списки не сокращать и как оценить, выдержали ли аргументы проверку временем. Похоже, в DeepMind уже исходят из того, что научные статьи читают главным образом модели.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.