Neuron Explorer
lyramakesmusic/neuron-explorerAI 已审核
用途
这是一个供研究语言模型内部机制的人使用的工具。它在你自己的电脑上运行Qwen3.5-4B模型,并以3D方式绘制各层结构,每个神经元对应一个点:你可以把某个神经元调高或调低,查看模型随后生成的文字,搜索已保存的运行记录,并与被调整过的模型对话。背后的大量数据来自一次扫描,需要租用CUDA显卡云主机和一个改过的vLLM版本。整个过程通过uv和Python命令启动。代码采用MIT许可。
安装难易度
D · 终端、多个工具或特定显卡 · macOS
- macOS D
- Linux D
README提到的系统只有Mac和Linux,两者都是D级:没有可以下载直接打开的文件,你需要用uv安装Python包,再从命令行启动本地服务器,它会在你的机器上(MPS、CUDA或CPU)加载一个40亿参数的模型。背后生成数据的扫描过程是在租用的CUDA GPU云主机上、用一个改过的vLLM版本运行的,这也是两个系统评级都上不去的原因。
即将推出：用 RepoPicks 应用一键安装。
GitHub 数据
- 星标
- 1,7762026年10月31日
- 下载量
- —所有发布版本
- 增长
- +3004 天内新增星标
星标变化
事实
- 可运行于
- macOS, Linux
- 需要安装
- Python, 显卡
- 从源码编译需要
- Python, 显卡
- 磁盘空间
- 950 MB–4.3 GB · 估算
- 账号或密钥
- Claude CLI login, for the optional Claude tab
- 费用
- 免费 · 代码和模型本身可以免费下载;但生成数据所需的扫描过程据称运行在租用的CUDA 13 GPU云主机上,这部分并不是免费的。
- 许可证
- MIT (宽松型)
- 可以替代
- Ember
- 最近更新
- 2026年11月1日
风险信号 (4)
- 注意内置智能体可以使用 shell
README，Claude 标签页："a chat running the `claude` CLI (installed and logged in) with the explorer as an MCP server (`explorer/agent_mcp.py`)"，它 "has file tools and a shell in your home folder"。
AI 审核
- 信息安装脚本会安装第三方 fork
README，Sweep："bash sweep/setup_pod.sh # fork, deps, model"，它会安装 vLLM 的 steering fork（RhizoNymph/vllm），并在 GPU 机器（pod）上下载模型。
AI 审核
- 信息研究预览版，没有发布版本
pyproject.toml 写的是 version = "0.1.0"，GitHub 上没有发布版本，在被分析的提交时仓库才创建一周（创建于 2026-10-21，最后一次推送为 2026-10-28），有 1615 个星标。
AI 审核
- 信息自带预先生成的缓存
README，Explorer："the caches in `explorer/cache/` ship with the repo" —— 这些是二进制的 .npz 文件（layout、connections），你可以加载它们，却无法阅读其内容，由维护者自己的 sweep 生成。
AI 审核
证据以原始语言显示。
Radar 无法验证的内容
- 它能否在Windows上运行尚不确定:README只提到了MPS(Mac)、CUDA和CPU,而扫描脚本是shell脚本。
- 在你的机器上加载Qwen3.5-4B、运行扫描并存放UMAP数据后,实际占用的磁盘和内存情况。
- 内置的Claude标签页在运行时具体做了什么,因为README提到它在你的用户目录下有一个shell。
- explorer/cache中附带的缓存是否与你下载的模型权重匹配,以及在租用的GPU云主机上运行一次扫描要花多少钱。