«Крестный отец ИИ»: мы строим машину без руля

Джеффри Хинтон, нобелевский лауреат по физике 2024 года и один из основоположников современных нейросетей, на конференции Digital World Conference во Дворце Наций в Женеве высказал тезис — ИИ нужно жестко регулировать, в то время как оппонентам регулирования "нужна весьма быстрая машина без руля".

Хинтон полагает, что противники регулирования подают "нерегулируемый ИИ как педаль газа [для экономики, науки и других областей], а регулирование — как тормоз", и на продвижение этого тезиса, согласно заявлению ученого, в индустрии идут огромные деньги. По его оценке, на защита в ИИ уходит "может быть, один процент" всех ресурсов.

К 2026 году антирегуляторный лагерь в ИИ заметно окреп. Фонд Andreessen Horowitz с 2023-го системно продвигает тезис, что жесткое регулирование — это средство крупных игроков против стартапов; к этой линии примыкает заметная часть техноинвесторов и основателей. На политическом уровне администрация Трампа в январе 2025 отменила байденовский указ о безопасном ИИ, а вице-президент Джей Ди Вэнс на Парижском AI Summit в феврале того же года публично развернул позицию США от safety-повестки к ускоренному развитию. В сумме это и есть те "огромные вложения в убеждение публики", о которых говорит Хинтон.

Отдельно он прошелся по рынку труда. По его словам, в таких сферах, как колл-центры, ИИ уже работает на уровне людей, а скоро будет лучше — и никакие программы переобучения этот тенденция не развернут. В здравоохранении, наоборот, ИИ принесет только пользу: там всегда есть нехватка рук. Но когда появится сверхинтеллект, он сможет делать любую интеллектуальную работу, и даже новые профессии будут уходить к нему — просто потому, что так дешевле.

Самое жесткое прозвучало в финале. "Мы не знаем, сможем ли сосуществовать со сверхумным ИИ. Но мы его строим", — сказал 78-летний Хинтон. Он обратил внимание, что у нас вообще весьма мало примеров того, когда намного более умное существо позволяло менее умному оставаться свободным.

Сам Хинтон настаивает: у человечества еще остается шанс удержать ситуацию под контролем — надо только понять, как построить такой сверхинтеллект, рядом с которым люди смогут продолжать существовать. Но времени, по его ощущению, все меньше, а ресурсов в решение вкладывается минимум.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.