Neuron Explorer

lyramakesmusic/neuron-explorerRevisado por IA

O que faz

Uma ferramenta de pesquisa para quem estuda o que acontece dentro de um modelo de linguagem. Ela roda o Qwen3.5-4B no seu próprio computador e desenha suas camadas em 3D, um ponto por neurônio: você empurra um neurônio para cima ou para baixo, lê o texto que o modelo escreve depois, pesquisa as execuções salvas e conversa com o modelo alterado. Os dados mais pesados vêm de um levantamento que precisa de um servidor CUDA alugado e uma versão modificada do vLLM. Tudo é iniciado com comandos do uv e do Python. O código está sob a licença MIT.

Facilidade de instalação

D · terminal, várias ferramentas ou placa específica · macOS

macOS D
Linux D

Mac e Linux são os sistemas citados pelo README, e ambos ficam em D: não há nada para baixar e abrir, você instala pacotes Python com uv e inicia um servidor local pela linha de comando, e ele carrega um modelo de 4 bilhões de parâmetros na sua máquina (MPS, CUDA ou CPU). O levantamento de dados por trás disso roda em um servidor CUDA alugado com uma versão modificada do vLLM, por isso nenhum dos dois sistemas sobe mais.

Em breve: instale com 1 clique pelo app RepoPicks.

Números no GitHub

Estrelas: 1.776em 31 de out. de 2026
Downloads: —todas as versões
Crescimento: +300estrelas em 4 dias

Estrelas ao longo do tempo

Fatos

Roda em: macOS, Linux
Você precisa instalar: Python, Placa de vídeo
Para compilar a partir do código: Python, Placa de vídeo
Espaço em disco: 950 MB–4,3 GB · estimativa
Contas ou chaves: Claude CLI login, for the optional Claude tab
Custo: Grátis · O código e o modelo são gratuitos para baixar; o levantamento que gera os dados é descrito como rodando em um servidor CUDA 13 alugado, que não é gratuito.
Licença: MIT (Permissiva)
Pode substituir: Ember
Última atualização: 1 de nov. de 2026

Sinais de risco (4)

AtençãoO agente incluído tem acesso ao terminal
README, aba Claude: "a chat running the `claude` CLI (installed and logged in) with the explorer as an MCP server (`explorer/agent_mcp.py`)" que "has file tools and a shell in your home folder".
revisão por IA
InfoScript de configuração instala um fork de terceiros
README, Sweep: "bash sweep/setup_pod.sh # fork, deps, model", que instala o fork de steering do vLLM (RhizoNymph/vllm) e baixa o modelo no pod com GPU.
revisão por IA
InfoPrévia de pesquisa sem releases
O pyproject.toml diz version = "0.1.0", não há releases no GitHub, e o repositório tem uma semana no commit analisado (criado em 2026-10-21, último push em 2026-10-28), com 1615 estrelas.
revisão por IA
InfoInclui caches pré-gerados
README, Explorer: "the caches in `explorer/cache/` ship with the repo" — arquivos .npz binários (layout, connections) que você carrega sem conseguir lê-los, gerados pela própria varredura (sweep) do mantenedor.
revisão por IA

As evidências aparecem no idioma original.

O que o Radar não conseguiu verificar

Se funciona no Windows: o README só menciona MPS (Mac), CUDA e CPU, e os scripts do levantamento são scripts de shell.
Uso real de disco e memória depois que o Qwen3.5-4B, as execuções do levantamento e os dados de UMAP estão na sua máquina.
O que a aba do Claude incluída faz enquanto funciona, já que o README diz que ela tem um shell na sua pasta pessoal.
Se os caches incluídos em explorer/cache correspondem aos pesos do modelo que você baixa, e quanto custa um levantamento em um servidor alugado.