Strata гоняет DeepSeekV4.1-Flash локально: на RTX 3060 12 ГБ авторы замерили 9–11 токенов/с

🛠 Strata гоняет DeepSeekV4.1-Flash локально: на RTX 3060 12 ГБ авторы замерили 9–11 токенов/с.
Strata — открытый проект под MIT с десктопным приложением и терминалом, аккаунт не нужен. Что не влезает в память, модель читает с SSD, поэтому места нужно много: наборы весят 239–274 ГБ, свободных нужно примерно 245–280 ГБ.
📊 Замеры на наборе 2.00 bpw: RTX 5070 с 64 ГБ RAM даёт 4–6 токенов/с, а Ryzen AI Max+ 395 на коде выдаёт 19–21.
💻 В README для этой модели приведена команда:
strata launch --family deepseek41 --model ist-das-2.00bpw --plan
🔌 Через API, совместимые с OpenAI и Anthropic, Strata подключается к Claude Code, Codex CLI и OpenCode. Как именно, покажет команда strata connect.
Готовим место на SSD 💾
Темы:Чипы и видеокарты
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





