Команда Draw Things выложила исходники Local Code — приватного ИИ-агента для Mac, iPad и iPhone, который работает офлайн на локальной модели

🛠 Команда Draw Things выложила исходники Local Code — приватного ИИ-агента для Mac, iPad и iPhone, который работает офлайн на локальной модели.
В одном приложении движок инференса для Apple Silicon, обвязка под каждую модель и среда для агента: Python 3.14, Node.js 24, шелл, git, ffmpeg, LibreOffice. Агент ходит только в те папки, что вы разрешили, всё внутри песочницы Apple.
🧠 Модели: Qwen 3.8 27B (от 9,6 ГБ), DeepSeek 4 Flash 0731 и DeepSeek 4.1 Flash 1017. Для последней рекомендуют от 64 ГБ памяти. Эксперты, которые не влезают в память, подгружаются с диска.
⚡ По замерам авторов, на M5 Ultra префилл DeepSeek 4.1 Flash — 3840–4600 токенов/с, заметно быстрее MLX-Serve и oMLX. Можно подключить и облако: Anthropic, OpenAI, OpenRouter.
Смотрим код в репозитории по ссылке.
Темы:AppleИИ-агентыЛокальные моделиСмартфоны
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





