Ученый DeepMind: ИИ никогда не станет сознательным

Старший научный сотрудник Google DeepMind Александр Лернер, проработавший в лаборатории с 2012 года, опубликовал препринт The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness, в котором утверждает: большие языковые модели в общем не способны обладать сознанием. Никакое наращивание параметров, вычислительной мощности или архитектурных ухищрений не приведёт LLM к субъективному опыту — ни через 10 лет, ни через 100.

Аргумент Лернера направлен против следующего допущения: если построить в достаточной степени сложную систему, которая ведет себя как сознательное существо, она и будет сознательной — нев зависимости от того, из чего она сделана. Эта позиция называется вычислительным функционализмом, и именно из нее растет идея, что трансформер однажды "проснется", если его как следует прокачать. Лернер называет такой ход мысли ошибкой и вводит для нее термин Abstraction Fallacy — "сбой абстракции".

Основной фокус — что вообще такое "вычисление". В GPU физически происходит только одно: электроны бегают по транзисторам, напряжения скачут, выделяется тепло. Никаких "единиц", "нулей" и "токенов" в самом железе нет. Они появляются ровно в тот момент, когда снаружи приходит человек и договаривается: вот этот диапазон напряжений я буду считать единицей, а вот эту последовательность состояний назову операцией сложения. Лернер называет такого человека картографом (mapmaker). Без него GPU — просто кусок горячего кремния, подчиняющийся законам физики, как водопад или костер. "Вычисление" существует только в голове наблюдателя.

Отсюда — главный вывод. Если символьное вычисление в LLM это только наша интерпретация электрических процессов, то схема не вычисляет ничего сама по себе. Она вычисляет только для нас, смотрящих со стороны. Внутри нее нет ни символов, ни смыслов — только ток. А сознание устроено иначе: оно есть внутри системы, для самой системы. Когда тебе больно — больно тебе, а не наблюдателю с томографом. Поэтому, сообщает Лернер, симуляция сознания не равна сознанию — ровно так же, как симуляция дождя не делает хост мокрым, а симуляция огня не плавит чип. Это разные категории вещей: одна живет в карте, другая в территории.

Важная оговорка: Лернер не апеллирует к тому, что только живая ткань может мыслить. Если когда-нибудь и появится искусственная сознательная платформа, утверждает он, то за счет ее физического устройства, а не программной архитектуры — то есть путь лежит через нейроморфные чипы, гибриды с живыми нейронами, органоиды, а не через увеличение количества параметров у трансформеров. Появление такого аргумента изнутри одной из ведущих AI-лабораторий — событие нерядовое: Лернер не сторонний философ, а действующий исследователь DeepMind с более чем 13 000 цитирований в Google Scholar. Его препринт уже активно разбирают и оспаривают: критики указывают, что довод о "картографе" опирается на спорную теорию значения, а современные нейросети, обучающиеся на взаимодействии с миром, формально не сводятся к манипуляции абстрактными символами.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.