Математики бойкотируют новые ИИ‑открытия от компании OpenAI

Компания OpenAI представила решения ряда давних математических задач, полученные с помощью ещё не выпущенной передовой модели искусственного интеллекта. Публикация включает 722 документа, сгруппированных по 372 тематическим направлениям. Однако математическое сообщество бойкотирует эти документы.

Математики выразили обеспокоенность работой ИИ, а также она вызвала вопросы об этике исследований и академических стандартах. По данным AGMAI — независимой консультативной группы, состоящей из ведущих математиков и созданной для обеспечения ответственного подхода к обнародованию результатов, — в опубликованные материалы вошли решения «сотен» открытых научных проблем.

Публикации результатов ожидали уже несколько недель, тем не менее до сих пор OpenAI не раскрывала подробностей о том, какие именно задачи решила схема и когда именно будут обнародованы данные. Ещё в сентябре компания заявила, что её схема «решила более 100 давних открытых задач практически во всех областях математики». Помимо самих решений, представлены краткие описания хода рассуждений модели, оценки затраченных вычислительных ресурсов и статистика по количеству попыток решения. По утверждению OpenAI, на получение «среднего результата» потребовался объём вычислений, эквивалентный трём часам работы ChatGPT Pro.

Группа AGMAI опубликовала свои первые рекомендации в конце сентября. В них она призвала лаборатории, занимающиеся ИИ, оперативно публиковать математические результаты — по возможности через традиционные академические каналы, — раскрывая при этом такие детали, как название использованной модели, применяемые промпты и затраты вычислительных мощностей. В дополнение к этого, группа настоятельно рекомендовала компаниям в сфере ИИ «воздерживаться от использования публикации математических результатов в качестве маркетингового инструмента для продвижения своих моделей», отметив, что подобная практика наносит серьёзный вред математическому сообществу.

Вот как OpenAI описала процедура подготовки данного релиза: «Для этого выпуска мы размещаем результаты в репозитории на GitHub, предусмотрев протоколы для внесения правок в документы и оформления ссылок. Мы продолжаем рассматривать и другие варианты размещения материалов силами сообщества, если они соответствуют рекомендациям комитета. В будущих релизах мы намерены повышать качество публикаций за счёт более тщательной проработки ссылок, математического изложения и представления результатов для их лучшего понимания».

Вероятно, потребуется некоторое время, прежде чем математики смогут всесторонне оценить и осмыслить полученные результаты, а также понять их реальное значение. Эти достижения пополняют быстрорастущий массив математических результатов, полученных OpenAI и конкурирующими лабораториями (например, Anthropic); научное сообщество всё ещё осмысляет эти данные — в том числе результаты, касающиеся одной из «задач тысячелетия», входящих в число самых известных нерешённых проблем математики. 

Ранее Международный математический союз поддержал предупреждение о влиянии технологической индустрии ИИ на науку. В декларации, описывающей многочисленные вызовы, которые искусственный интеллект создаёт для математических исследований, математики выразили обеспокоенность растущим влиянием технологической индустрии. Декларация была опубликована через две недели после того, как OpenAI объявила, что одна из её моделей искусственного интеллекта опровергла 80-летнюю математическую гипотезу в области геометрии.