Дженсен Хуанг: ограничения открытых моделей вытолкнут инновации из США

Глава NVIDIA Дженсен Хуанг опубликовал свой начальный пост в X. В нём он поделился совместным открытым письмом в поддержку моделей с открытыми весами.

Документ подписали 25 организаций, включая NVIDIA, Microsoft, Meta, IBM, Mistral, Hugging Face, Mozilla, The Linux Foundation, Palantir, Perplexity, Replit, ServiceNow, Andreessen Horowitz и Y Combinator. OpenAI, Anthropic, Google и Amazon среди подписантов нет.

Разработчики определяют модели с открытыми весами как системы, которые можно загрузить, проверить, изменить и запустить на собственной инфраструктуре. По их мнению, такие модели позволяют компаниям и университетам использовать AI без обучения модели с нуля и постоянной оплаты закрытых api.

В письме перечислены четыре основных аргумента:

1. открытые веса снижают стоимость внедрения AI;

2. усиливают конкуренцию между разработчиками моделей, облаками, производителями чипов и приложениями;

3. позволяют хранить информация и запускать модели на собственной инфраструктуре без привязки к одному провайдеру;

4. дают исследователям возможность проверять модели, искать уязвимости, проводить red teaming и разрабатывать защитные механизмы.

Подписанты признают отдельные риски: после публикации веса нельзя отозвать, а изменённые версии моделей сложно отслеживать. Одновременно они считают, что закрытые модели равным образом могут быть взломаны или использованы во вред, а концентрация AI у нескольких провайдеров создаёт единые точки отказа.

Компании призвали американских законодателей расширять доступ стартапов и исследователей к вычислительным мощностям, финансировать общие датасеты, инструменты и системы оценки, а также не вводить преждевременные ограничения на модели с открытыми весами.

Отдельный пункт касается дистилляции, то есть использования ответов одной модели для обучения или улучшения иной. Разработчики называют её стандартным методом разработки и предлагают отделять дистилляцию от незаконного извлечения данных и нарушения коммерческих прав. Для таких нарушений они предлагают использовать точечные юридические меры вместо запрета всей технологии.

Русскоязычное сообщество про AI в разработке

Друзья! Эту новость подготовила команда ТГК «AI for Devs» — канала, где мы рассказываем про AI-агентов, плагины для IDE, делимся практическими кейсами и свежими новостями из мира ИИ. Подписывайтесь, чтобы быть в курсе и ничего не упустить!