Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

NVIDIA выложила Nemotron 3.5 Bolt: модель на 74B параметров (9B активных), которая за счёт 2-битного квантования, по словам компании, помещается в 24 ГБ памяти и работает рядом с другими приложениями

🧠 NVIDIA выложила Nemotron 3.5 Bolt: модель на 74B параметров (9B активных), которая за счёт 2-битного квантования, по словам компании, помещается в 24 ГБ памяти и работает рядом с другими приложениями.

Мультимодальная: текст, картинки и видео на входе, контекст до 256K токенов. Заточена под локальных агентов: инструменты, браузер, терминал.

📊 По бенчмаркам Bolt обгоняет Qwen3.6-35B-A3B и Gemma4 26B-A4B в большинстве тестов: Terminal-Bench 2.1 — 50,98 против 44,38 у Qwen, BrowseComp — 66,75 против 48,74. В PinchBench чуть уступает Qwen, а в AA-Omniscience по точности — обоим. Цифры заявлены самой NVIDIA.

🛠 Запуск через vLLM в докере, нужна видеокарта Ampere, Hopper или Blackwell. Команда лежит на странице модели. Лицензия OpenMDW-1.1, коммерческое использование разрешено.

Карточку с командой запуска смотрим по ссылке.

Темы:Чипы и видеокартыКитай

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме