Neuron Explorer позволяет менять активность отдельных нейронов Qwen3.5-4B и сравнивать ответы на 3D-карте модели
🧠 Neuron Explorer позволяет менять активность отдельных нейронов Qwen3.5-4B и сравнивать ответы на 3D-карте модели.
В интерфейсе можно изучать связи нейронов, искать их по активации на своём тексте и вести три чата рядом: с ослабленным, обычным и усиленным воздействием выбранного нейрона.
Для локального запуска — uv sync, затем uv run python explorer/server.py. Поддерживаются MPS, CUDA и CPU.
Полный сбор экспериментальных данных требует отдельного окружения с CUDA 13 и специальной версией vLLM; готовые кэши интерфейса есть в репозитории.
Темы:Чипы и видеокарты
Справка:Досье: Qwen Chat (Qwen Studio)
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение




