Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

Strata гоняет DeepSeekV4.1-Flash локально: на RTX 3060 12 ГБ авторы замерили 9–11 токенов/с

🛠 Strata гоняет DeepSeekV4.1-Flash локально: на RTX 3060 12 ГБ авторы замерили 9–11 токенов/с.

Strata — открытый проект под MIT с десктопным приложением и терминалом, аккаунт не нужен. Что не влезает в память, модель читает с SSD, поэтому места нужно много: наборы весят 239–274 ГБ, свободных нужно примерно 245–280 ГБ.

📊 Замеры на наборе 2.00 bpw: RTX 5070 с 64 ГБ RAM даёт 4–6 токенов/с, а Ryzen AI Max+ 395 на коде выдаёт 19–21.

💻 В README для этой модели приведена команда:
strata launch --family deepseek41 --model ist-das-2.00bpw --plan

🔌 Через API, совместимые с OpenAI и Anthropic, Strata подключается к Claude Code, Codex CLI и OpenCode. Как именно, покажет команда strata connect.

Готовим место на SSD 💾

Темы:Чипы и видеокарты

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме