Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

GPU unlock 1.1.1 снимает ограничение тензорных вычислений на RTX 4090: по опубликованным замерам, FP16 и BF16 с накоплением FP32 дают примерно вдвое больше операций в секунду

💻 GPU unlock 1.1.1 снимает ограничение тензорных вычислений на RTX 4090: по опубликованным замерам, FP16 и BF16 с накоплением FP32 дают примерно вдвое больше операций в секунду.

Это Linux-модуль, который срабатывает перед загрузкой штатного драйвера NVIDIA. Результат воспроизвели и другие владельцы, но прикладной выигрыш скромнее: в одном сравнении cuBLAS прибавил 12–34% для FP16, а BF16 местами остался на прежнем уровне.

🧠 На модифицированной RTX 4090 с 48 ГБ проверенная квантованная MoE-модель ускорения не получила. Удвоение отдельных операций не означает удвоения скорости нейронок.

Поддержка других Ada-карт экспериментальная; длительную стабильность эти замеры не подтверждают.

Темы:Чипы и видеокарты

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме