NaiveAI выложила Naive-N0.5-Flash: открытую модель для кода на 309 млрд параметров, из них активны 15,5 млрд

🧠 NaiveAI выложила Naive-N0.5-Flash: открытую модель для кода на 309 млрд параметров, из них активны 15,5 млрд.
Это MoE (при ответе работает только часть «экспертов»), контекст нативно до 1 млн токенов. Построена на базе MiMo-V2.5 от Xiaomi, веса и код инференса лежат под MIT.
Скорость, по словам разработчиков: 50 токенов/с на пользователя в обычном режиме и до 2000 токенов/с в Ultrafast. Это даёт их движок NaiveRT.
Запуск через Transformers, нужны NVIDIA GPU с поддержкой FP8, одни только веса занимают около 315 ГБ. API обещают: $0,10 за 1 млн входных токенов, $0,40 за выходные, $0,01 за чтение кэша.
Код и инструкция в репозитории.
Темы:Деньги и рынокЧипы и видеокарты
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

