OpenAI и Microsoft признали уничтожение веба со стороны LLM

Руководители Microsoft и OpenAI, работающие над ИИ, признали, что большие языковые модели отличаются «поразительной кражей беспрецедентных масштабов» при обучении. Во внутреннем документе Microsoft говорится, что продукты генеративного ИИ создали «порочный круг», который убивает «всю сеть».

Такие утверждения содержатся в неотредактированном судебном документе, который был рассекречен в четверг в рамках масштабного судебного процесса между New York Times и OpenAI по вопросам авторского права. Юристы издания изложили ряд признаний, сделанных руководителями Microsoft и OpenAI в документах и ​​показаниях, которые до сих пор оставались либо засекреченными, либо отредактированными по просьбе компаний.

«Миллионы людей по всему миру вскоре будут считать, что „поглощение“ всей их работы крупными моделями — это поразительная кража беспрецедентных масштабов. Почти никто не предполагал, что созданный контент будет использоваться итак, и никто не получает за это компенсацию», — говорится во внутреннем документе Microsoft.

Документ был составлен юристами New York Times, но в основном состоит из заявлений и интервью с руководителями крупных технологических компаний. Они признают, что программы обучения ИИ в основном основаны на украденном контенте, представляют собой экзистенциальную угрозу для писателей, художников и медиакомпаний, а также запустили «цикл разрушения», который поглощает интернет и уничтожает бизнес.

Документ обнаружил Джейсон Кинт, гендиректор Digital Content Next. Это торговая организация, представляющая интересы компаний в сфере цифровых медиа. Кинт внимательно следит за масштабными судебными исками по поводу авторских прав на ИИ и публикует соответствующие материалы.

«Наша стратегия в области ИИ‑контента запустила „порочный круг“, который одновременно негативно скажется на производительности наших моделей и всего интернета: чрезвычайно необычно, чтобы конечный продукт угрожал экономическим основам основных поставщиков, но именно такую ​​ситуацию мы создали для нашего бизнеса LLM в отношении его „цепочки поставок контента“», — говорится в документе.

Руководители Microsoft, в том числе генерального директора Сатью Наделлу, под присягой заявили, что после копирования контента из New York Times и других новостных сайтов количество переходов на эти сайты резко упало, снизившись более чем на 90% на Bing.

Документация, полученные в ходе судебного разбирательства, показали, что OpenAI предусмотрела «взлом, чтобы обойти платный доступ к New York Times». Исполнительный директор Microsoft Брент Хехт написал, что LLM крадут контент «без распределения экономической ценности по цепочке поставок, что неизбежно угрожает экономической стабильности тех, кто создаёт контент».

Директор по политике OpenAI Джек Кларк создал текст, что компания «создаёт системы, заменяющие труд людей, определяющих „культуру“ общества», а в Microsoft признали, что генеративный ИИ может «значительно повлиять на занятость тех самых людей, создающих данные, на которых была обучена базовая схема». OpenAI назвала себя «экзистенциальной угрозой» для новостных издателей, а инженер‑программист компании свидетельствовал, что «как бы заметно мы ни показывали ссылки, пользователи не будут на них кликать».

При этом юристы OpenAI и Microsoft пытаются доказать, что обучение моделей является добросовестным использованием и трансформативным в соответствии с законом об авторском праве, так как они создают нечто принципиально отличное от человеческого труда. 

NYT предъявила иск к OpenAI в 2023 году, обвинив компанию в использовании материалов газеты для обучения больших языковых моделей. В OpenAI назвали эти обвинения необоснованными. Позже к иску присоединились другие владельцы авторских прав. В дополнение к OpenAI, под суд по аналогичным причинам попали Microsoft, Meta*, Anthropic и другие авторы ИИ.

В сентябре ещё два издательства подали в суд на OpenAI и Microsoft. The Seattle Times и Newsday обвинили компании в обучении моделей искусственного интеллекта на журналистских материалах без разрешения и компенсации.

_{*Meta Platforms признана экстремистской организацией, её деятельность в России запрещена}