Янн ЛеКун: «AGI — неправильный термин, нужен иной»

Янн ЛеКун наряду с коллегами из Колумбийского университета и NYU опубликовал статью, в которой предлагает отказаться от термина AGI — искусственный общий интеллект. По их мнению, это понятие не только неточное, но и тормозит развитие области.

Центральный аргумент прост: человеческий интеллект не является «общим». Он эволюционно специализирован, и мы просто не замечаем собственных слепых зон. Авторы иллюстрируют это примером чемпиона мира по шахматам Магнуса Карлсена: его игра впечатляет только в сравнении с другими людьми. Относительно компьютеров — это просто предел человеческих возможностей.

Исследователи разобрали существующие определения AGI и пришли к выводу: ни одно из них не выдерживает собственных критериев. Определения, претендующие на истинную универсальность, разбиваются о теорему «No Free Lunch» — не существует алгоритма, оптимального для всех задач. Определения, ограниченные человеческими способностями, по определению не являются «общими». Подходы OpenAI и Демиса Хасабиса из DeepMind разработчики называют либо неизмеримыми, либо внутренне противоречивыми.

Вместо AGI исследователи предлагают термин Superhuman Adaptable Intelligence (SAI) — «сверхчеловеческий адаптивный интеллект». Это система, которая способна обучаться и превосходить людей в любой значимой задаче, а также заполнять пробелы там, где человек вовсе не справляется. Ключевой критерий — не набор навыков, а скорость адаптации к новым задачам.

На техническом уровне авторы делают ставку на самообучение и «модели мира», а не на авторегрессионные языковые модели вроде GPT. Ошибки таких моделей, по их словам, «нарастают экспоненциально с длиной предсказания». Монокультура GPT-архитектур, считают исследователи, замедляет прогресс: «Однородность убивает исследования».

Хасабис и Илон Маск ранее отвергали похожие аргументы, настаивая на том, что человеческий мозг — чрезвычайно универсальная система. ЛеКун и соавторы отвечают: даже в идеальных условиях мозг охватывает только «бесконечно малую долю» возможных задач.