Бывший разработчик ChatGPT показал весьма быструю LLM для задач классификации

2 мин
Бывший разработчик ChatGPT показал весьма быструю LLM для задач классификации

Человеческий язык удобен для разговора с пользователем, но внутри приложения за эту универсальность приходится платить временем. Когда одна LLM передаёт итог другой модели, ответ всё равно генерируется токен за токеном. Для классификации заявки, оценки риска или выбора следующего инструмента развёрнутый текст вообще не нужен.

Диого Алмейда, бывший исследователь OpenAI и соавтор InstructGPT, вместе с командой TypeSafe показал Jev, первую публичную схема семейства System One.

Разработчик передаёт контекст и вопросы с допустимыми ответами, а Jev параллельно возвращает выбранные варианты, оценки и распределения вероятностей. Обычные LLM уже умеют выдавать структурированные ответы по JSON Schema, но Jev получает результат без последовательной генерации текста.

По опубликованным тестам TypeSafe, на таких задачах Jev близка к GPT-5.6 Luna и Terra, хотя более сильные Sol и Opus 5 показывают лучший результат. В частности, среднее совпадение с эталоном у Jev составляет 67,8%, у Terra 67,9%, а время выполнения сценария: 0,4 и 10,1 секунды соответственно.

TypeSafe берёт $0,042 за миллион входных токенов и ровно $0 за выход. Для сравнения ниже бюджетная GPT-5 nano, младшая модель семейства GPT-5.6, флагман GPT-6 Astra и дешёвая китайская Qwen Flash.

Модель

Вход, $ за 1 млн токенов

Выход, $ за 1 млн токенов

Jev

0,042

0

GPT-5 nano

0,05

0,40

GPT-5.6 Luna

0,20

1,20

GPT-6 Astra

10

50

Qwen Flash

0,022

0,216

Когда проблема понятна, а допустимые действия и формат результата заданы заранее, скорость и стоимость уже впечатляют.

В демо с игрой в Doom бот на Jev работает примерно с 10 запросами к модели в секунду за $7 в час, получая структурированное состояние игры.

В другом демо схема прокладывает путь между страницами Wikipedia, выбирая переходы среди сотен и тысяч ссылок.

Такой подход может пригодиться агентам, которые через MCP управляют Blender, DaVinci Resolve и другим софтом. Когда инструменты и допустимые действия уже описаны, часть задач сводится к быстрому выбору следующего шага. Если подобные модели встроить в эти сценарии, паузы между командами могут заметно сократиться: простое нажатие кнопки не должно каждый раз требовать долгих рассуждений.

Читают сейчас

Американские власти впервые подтвердили хостинг оружия на приблизительноземной орбите

48 минут назад

Американские власти впервые подтвердили хостинг оружия на приблизительноземной орбите

Министр военно‑воздушных сил США Трой Мейнк сообщил, что Соединённые Штаты вывели на околоземную орбиту «оружие для контроля космического пространства». Это заявление стало первым публичным признанием

CRM можно больше не открывать. Главное с Dreamforce 2026

52 минуты назад

CRM можно больше не открывать. Главное с Dreamforce 2026

Dreamforce 2026. В чем соль? Вместо CRM обещают завезти ИИ-агентов, которым достаточно описать задачу, а они сами найдут информация, соберут необходимый интерфейс и выполнят работу. Об этом и не тольк

CircuitPython Turbo получил поддержку предварительной компиляции и режима Viper

58 минут назад

CircuitPython Turbo получил поддержку предварительной компиляции и режима Viper

Вы, вероятно, не раз встречались в интернете с утверждением о том, что Python — это свежий BASIC, который стал первым языком программирования для целого поколения разработчиков. Его главное преимущест

Зачем разработчику погружаться в продуктовый контекст и как в этом помогает ИИ?

58 минут назад

Зачем разработчику погружаться в продуктовый контекст и как в этом помогает ИИ?

Порассуждали на эту тему в гостях у подкаста Moscow Python — ребята предложили вместе записать начальный оффлайн‑выпуск после долгого перерыва. Поговорили о том, где граница между ролями продакта и ра

В Москве прошла открытая стратегическая сессия для диджитал‑рынка

1 час назад

В Москве прошла открытая стратегическая сессия для диджитал‑рынка

11 сентября в офисе AGIMA прошла открытая стратегическая сессия для участников диджитал-рынка — первая офлайн-встреча нового сезона 2026. Десять владельцев агентств и сервисных компаний наряду с двумя