Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

NaiveAI выложила Naive-N0.5-Flash: открытую модель для кода на 309 млрд параметров, из них активны 15,5 млрд

🧠 NaiveAI выложила Naive-N0.5-Flash: открытую модель для кода на 309 млрд параметров, из них активны 15,5 млрд.

Это MoE (при ответе работает только часть «экспертов»), контекст нативно до 1 млн токенов. Построена на базе MiMo-V2.5 от Xiaomi, веса и код инференса лежат под MIT.

Скорость, по словам разработчиков: 50 токенов/с на пользователя в обычном режиме и до 2000 токенов/с в Ultrafast. Это даёт их движок NaiveRT.

Запуск через Transformers, нужны NVIDIA GPU с поддержкой FP8, одни только веса занимают около 315 ГБ. API обещают: $0,10 за 1 млн входных токенов, $0,40 за выходные, $0,01 за чтение кэша.

Код и инструкция в репозитории.

Темы:Деньги и рынокЧипы и видеокарты

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме