Статьи по тегу «inference»
10 сентября 2026, 22:03
OpenAI приостановит дизайн новых подписок ChatGPT Pro в связи с спроса на Astra
После запуска GPT-6 Astra OpenAI столкнулась с рекордным спросом на новую модель. Об этом сообщил Тибо Сотью. По его словам, интерес к Astra превысил все предыдущие исторические показатели сервиса. Сп
18 июня 2026, 12:26
Множество нас, а он один: распределение GPU между ML-инженерами с помощью Dev Cluster
За последние десять лет в мире машинного обучения произошёл взрывной рост. Если в 2012 году мощную модель можно было обучить на нескольких GPU, то сегодня бигтехам нужны тысячи. Наряду с железом вырос
9 июня 2026, 18:15
Xiaomi разогнали 1T-модель до 1200 tok/s на стандартных GPU
Китайские команды MiMo и TileRT опубликовали режим UltraSpeed для модели MiMo V2.5 Pro (1,02T параметров). На одном 8-карточном сервере со стандартными GPU, до ~1200 токенов в секунду. Cerebras выдаёт
28 мая 2026, 20:10
Cerebras ускорила 1 трлн схема kimi K2.6 до тысяча т/sec
Недавно компания производитель чипов Cerebras добавила топовую открытую трилионную модель Kimi k2.6, на свою платформу. В сравнении со другими компаниями - это невероятный апгрейд скорости. По существ
28 мая 2026, 13:30
ByteDance разрабатывает собственные серверные процессоры для развития ИИ-инфраструктуры
ByteDance начала разработку собственных центральных процессоров для серверов и дата-центров, чтобы поддержать расширение своей ИИ-инфраструктуры. По данным Reuters, компания рассматривает сразу два ар