llmfit
CLI que detecta tu RAM/GPU y te dice qué modelos locales puedes correr bien — antes de descargar 40 GB inútiles.
Entiende el concepto
Qué es
llmfit es una herramienta de terminal (Rust) que escanea tu hardware — RAM, CPU, VRAM — y lo cruza con un catálogo de cientos de modelos para responder: ¿este Qwen/Llama cabe en mi máquina, y a qué velocidad aproximada? No descarga ni ejecuta nada; orienta antes de que instales algo pesado.
Evita el ciclo clásico “bajo un 70B → va lentísimo → lo borro”.
Comandos típicos
llmfit # TUI interactiva (modo por defecto)
llmfit recommend --json # top recomendaciones (útil para scripts)
llmfit fit --perfect # solo modelos que encajan bien en tu VRAM
El modelo elegido se instala después con Ollama u otro runtime. Si sigues usando solo APIs de nube, no lo necesitas — el mapa completo está en modelos nube vs locales.
Nuestra lectura: cinco minutos aquí ahorran horas de descargas fallidas, sobre todo con GPU modesta (8–12 GB). Existe la alternativa whichllm con el mismo concepto — elige uno, no los dos.