Хассабис предложил необычный проверка на AGI — открыть теорию относительности во следующий раз

Глава Google DeepMind и нобелевский лауреат Демис Хассабис в интервью на подкасте Y Combinator предложил необычный проверка для AGI: создать на основе его архитектуры схема, обученную только на знаниях, которые были у физиков в 1901 году. Далее эта схема должна самостоятельно вывести специальную теорию по сравнению ссти — то, что Альберт Эйнштейн сделал в 1905 году. По его словам, нынешние системы на это пока не способны.

Тест разводит две вещи, которые в разговорах об AGI часто смешивают: умение хорошо решать известные задачи и способность создавать принципиально новое знание. К 1901 году у физиков уже были электромагнетизм Максвелла, ньютоновская механика, термодинамика Больцмана и накопившиеся экспериментальные парадоксы — нулевой итог опыта Майкельсона-Морли, ультрафиолетовая катастрофа. Все классические инструменты были в распоряжении, но в последующие годы для прорыва потребовалась серия концептуальных скачков, которые сделал Эйнштейн.

Современные модели Хассабис называет "неровным интеллектом" (jagged intelligence): они зарабатывают золотые медали на Международной математической олимпиаде, но проваливают простые задачи, если их слегка перефразировать. По его оценке, до AGI не хватает, возможно, "одной-двух фундаментальных идей" — в частности, способности к аналогическому рассуждению и генерации новых гипотез. Без этих способностей пройти проверка невозможно: открытие СТО нельзя получить интерполяцией существующих данных, требуется смена парадигмы.

Хассабис при этом не считает недостающие способности магическими — это прорывы, которые могут произойти в ближайшие годы, а не века. Но смысл теста именно в том, чтобы перестать путать технический прогресс LLM с настоящим научным творчеством — открытием, которое нельзя вывести из существующего корпуса знаний.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.