Гейтс: развитие ИИ без регулирования может привести к гибели миллиарда человек

Соучредитель Microsoft Билл Гейтс призвал законодателей в Вашингтоне заняться регулированием разработки искусственного интеллекта. Это произошло спустя некоторое количество недель после того, как руководители крупнейших американских лабораторий ИИ согласились с необходимостью замедлить темпы развития этой технологии.

«Никто не считает, что саморегулирования в достаточной степени», — заявил Гейтс. По его словам, необходимо принять соответствующие законодательные акты.

«Необходимо, чтобы правоохранительные органы и политики включились в обсуждение того, как должны выглядеть меры защиты и контроля, — отметил Гейтс. — Это должно стать обязательным требованием. Да, для отрасли это создаст определённую дополнительную нагрузку, но не приведёт к резкому замедлению деятельности».

Ранее в этом месяце руководители Anthropic и OpenAI согласились с тем, что гонку по созданию мощных систем искусственного интеллекта следует замедлить. Их заявления прозвучали после того, как Джейкоб Коксон, недавно уволившийся из Anthropic, публично заявил: «Ни одна из этих компаний не действует ответственно. Они мчатся к созданию самосовершенствующегося суперинтеллекта, рискуя нашими жизнями».

«Люди, создающие ИИ, искренне верят, что к концу десятилетия он может погубить нас всех», — внедрил Коксон в серии публикаций в социальных сетях и интервью.

Гейтс тоже не стал преуменьшать риск того, что ИИ может уничтожить человечество в течение нескольких лет, однако призвал американцев не игнорировать и те угрозы, которые возникают уже сегодня: возможность использования ИИ злоумышленниками для причинения масштабного ущерба.

«ИИ, безусловно, обладает в достаточной степений мощью, чтобы спровоцировать события, которые могут привести к гибели миллиарда человек. И хотя достичь стопроцентной вероятности такого исхода сложно, ещё никогда не существовало оружия, столь же мощного, как сочетание силы людей со злыми намерениями и новейших инструментов ИИ», — сказал он.

Ранее в этом месяце Коксон высказывал мнение, что компаниям, занимающимся ИИ, следует позволить регулировать себя самостоятельно. «Я действительно считаю, что руководители этих лабораторий — судя, в частности, по их недавним заявлениям — говорят совершенно искренне. Они сами хотели бы замедлить темпы развития», — сказал он.

Между тем спикер Палаты представителей Майк Джонсон отказался созывать законодателей в Вашингтон для принятия закона, регулирующего скорость развития ИИ, заявив, что предпочтет довериться самим компаниям, занимающимся этой технологией.

«Нам необходимо установить определённые ограничительные рамки и меры безопасности, чтобы развитие ИИ не вышло из‑под контроля», — отметил спикер. Он добавил, что, хотя руководители компаний‑разработчиков ИИ и призывали к замедлению темпов, они пока не предложили конкретного пути решения, который предусматривал бы принятие федерального закона.

«На сегодняшний день у них самих нет готового ответа. Поэтому мы не можем действовать поспешно и предпринимать в Конгрессе шаги, которые могли бы нанести ущерб национальной безопасности», — подчеркнул Джонсон.

Генеральный директор компании Anthropic Дарио Амодеи особо подчеркнул важность сотрудничества как на федеральном, так и на глобальном уровне.

«Наиболее продуктивный способ регулирования темпов — это введение норм, распространяющихся на все американские компании, занимающиеся передовыми разработками в области ИИ; такой решение охватывает даже тех, кто не желает сотрудничать добровольно», — создал текст он, добавив далее: «Для регулирования темпов на глобальном уровне потребуется партнёрство с Китаем — авторитарной страной, обладающей, безусловно, самыми передовыми возможностями в сфере ИИ».

А генеральный директор OpenAI Сэм Альтман выступил на мероприятии ООН, призвав к разработке международных стандартов для «измерения возможностей, оценки рисков, определения в достаточной степенисти мер безопасности и сохранения реального контроля со стороны человека» над системами ИИ.

Основатель и генеральный директор Meta* Марк Цукерберг не согласился с таким подходом. «Я не думаю, что нам необходима какая‑либо координация на уровне всей отрасли. Полагаю, каждой лаборатории нужно действовать не спеша: если возникают проблемы, следует уделить время их решению внутри компании, чтобы убедиться в безопасности дальнейшей работы», — объявил он.

На уровне отдельных штатов некоторые губернаторы уже приступили к процессу регулирования деятельности компаний, разрабатывающих ИИ, а также дата‑центров, обеспечивающих вычислительные мощности для этих разработок. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом подписал указ о создании экспертного совета, которому поручено разработать план по ужесточению законодательства штата в сфере безопасности искусственного интеллекта.

Губернаторы Мэриленда и Нью‑Йорка — Уэс Мур и Кэти Хокул — равным образом представили планы, направленные на усиление регулирования ИИ в своих штатах.

Проект Мура предполагает «трёхсторонний подход» к регулированию, тогда как план Хокул предусматривает разработка нового Управления по вопросам цифровых инноваций, управления, добросовестности и доверия, которое будет контролировать соблюдение правовых норм компаниями, работающими в сфере ИИ.

Выступая на этой неделе на сессии ООН, посвящённой вопросам искусственного интеллекта и человеческого развития, президент Microsoft Брэд Смит отверг мнение о том, что компаниям‑разработчикам ИИ следует дожидаться введения федерального регулирования, чтобы притормозить развитие технологий, и раскритиковал их за непрерывную гонку по созданию все более совершенных продуктов на базе ИИ.

«Представьте себе, что в мире есть всего две крупные компании, производящие коммерческие самолёты. А теперь представьте, что кто‑то приходит к вам в кабинет и говорит: „Я знаю, что мы участвуем в гонке, стремясь первыми выпустить свежий самолёт, но мы опасаемся, что он может потерпеть крушение и погибнут люди“. Сказали бы вы: „Мне нужно выиграть эту гонку?“. Или же вы сказали бы: „Я поставлю безопасность пассажиров и общества выше победы в этой гонке?“. В этом и заключается главный вопрос», — сказал Смит.

_{Meta Platforms*, а также принадлежащие ей социальные сети Facebook** и Instagram**:
*признана экстремистской организацией, её деятельность в России запрещена;
**запрещены в России.}