Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и кодГлавное

Команда Draw Things выложила исходники Local Code — приватного ИИ-агента для Mac, iPad и iPhone, который работает офлайн на локальной модели

🛠 Команда Draw Things выложила исходники Local Code — приватного ИИ-агента для Mac, iPad и iPhone, который работает офлайн на локальной модели.

В одном приложении движок инференса для Apple Silicon, обвязка под каждую модель и среда для агента: Python 3.14, Node.js 24, шелл, git, ffmpeg, LibreOffice. Агент ходит только в те папки, что вы разрешили, всё внутри песочницы Apple.

🧠 Модели: Qwen 3.8 27B (от 9,6 ГБ), DeepSeek 4 Flash 0731 и DeepSeek 4.1 Flash 1017. Для последней рекомендуют от 64 ГБ памяти. Эксперты, которые не влезают в память, подгружаются с диска.

⚡ По замерам авторов, на M5 Ultra префилл DeepSeek 4.1 Flash — 3840–4600 токенов/с, заметно быстрее MLX-Serve и oMLX. Можно подключить и облако: Anthropic, OpenAI, OpenRouter.

Смотрим код в репозитории по ссылке.

Темы:AppleИИ-агентыЛокальные моделиСмартфоны

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме