Neuron Explorer

lyramakesmusic/neuron-explorerRevisado por IA

Qué hace

Una herramienta de investigación para quienes estudian qué pasa dentro de un modelo de lenguaje. Ejecuta Qwen3.5-4B en tu propia computadora y dibuja sus capas en 3D, un punto por neurona: empujas una neurona hacia arriba o hacia abajo, lees el texto que el modelo escribe después, buscas en las ejecuciones guardadas y chateas con el modelo modificado. Los datos pesados vienen de un barrido que necesita un servidor CUDA alquilado y una versión modificada de vLLM. Todo se inicia con comandos de uv y Python. El código está bajo licencia MIT.

Facilidad de instalación

D · terminal, varias herramientas o tarjeta específica · macOS

macOS D
Linux D

Mac y Linux son los sistemas que nombra el README y ambos quedan en D: no hay nada para descargar y abrir, instalas paquetes de Python con uv e inicias un servidor local desde la línea de comandos, y carga un modelo de 4 mil millones de parámetros en tu máquina (MPS, CUDA o CPU). El barrido de datos detrás de esto corre en un servidor CUDA alquilado con una versión modificada de vLLM, por eso ningún sistema llega más alto.

Pronto: instala con 1 clic desde la app RepoPicks.

Números en GitHub

Estrellas: 1776el 31 oct 2026
Descargas: —todas las versiones
Crecimiento: +300estrellas en 4 días

Estrellas a lo largo del tiempo

Datos

Funciona en: macOS, Linux
Necesitas instalar: Python, Tarjeta gráfica
Para compilar desde el código: Python, Tarjeta gráfica
Espacio en disco: 950 MB–4,3 GB · estimación
Cuentas o claves: Claude CLI login, for the optional Claude tab
Costo: Gratis · El código y el modelo se descargan sin costo; el barrido que genera los datos se describe corriendo en un servidor CUDA 13 alquilado, lo cual sí tiene costo.
Licencia: MIT (Permisiva)
Puede reemplazar: Ember
Última actualización: 1 nov 2026

Señales de riesgo (4)

AtenciónEl agente incluido tiene acceso a la terminal
README, pestaña Claude: "a chat running the `claude` CLI (installed and logged in) with the explorer as an MCP server (`explorer/agent_mcp.py`)" que "has file tools and a shell in your home folder".
revisión con IA
InfoEl script de instalación añade un fork de terceros
README, Sweep: "bash sweep/setup_pod.sh # fork, deps, model", que instala el fork de steering de vLLM (RhizoNymph/vllm) y descarga el modelo en el pod con GPU.
revisión con IA
InfoVersión preliminar de investigación sin releases
pyproject.toml dice version = "0.1.0", no hay releases en GitHub, y el repositorio tiene una semana en el commit analizado (creado el 2026-10-21, último push el 2026-10-28) con 1615 estrellas.
revisión con IA
InfoIncluye cachés ya generados
README, Explorer: "the caches in `explorer/cache/` ship with the repo" — archivos .npz binarios (layout, connections) que cargas sin poder leerlos, generados por el barrido (sweep) del propio mantenedor.
revisión con IA

La evidencia aparece en su idioma original.

Lo que Radar no pudo verificar

Si funciona en Windows: el README solo nombra MPS (Mac), CUDA y CPU, y los scripts del barrido son scripts de shell.
El uso real de disco y memoria una vez que Qwen3.5-4B, las ejecuciones del barrido y los datos de UMAP están en tu máquina.
Qué hace la pestaña de Claude incluida mientras trabaja, ya que el README dice que tiene una shell en tu carpeta personal.
Si las cachés incluidas en explorer/cache coinciden con los pesos del modelo que descargas, y cuánto cuesta un barrido en un servidor alquilado.