SwiftRWKV — Swift-пакет, который запускает и дообучает языковую модель RWKV-7 прямо на iPhone, iPad, Mac и Vision Pro

🛠 SwiftRWKV — Swift-пакет, который запускает и дообучает языковую модель RWKV-7 прямо на iPhone, iPad, Mac и Vision Pro.
Построен на MLX и собственном ядре на Metal. Модель линейная, RNN-типа: память на токен постоянная. Есть генерация, эмбеддинги, реранкинг, LoRA/QLoRA и state-tuning, когда обучается только начальное состояние. Подключается через Swift Package Manager.
📱 Нужны iOS 17 или macOS 14, GPU Apple Silicon и Swift 5.10+. В симуляторе iOS ядро не работает, только на реальном устройстве или Mac.
Автор называет проект экспериментальным, API ещё может поменяться. Зато заявлено 694 теста.
Репозиторий — по ссылке.
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





