IA local › llama.cpp

llama.cpp: qué es, cómo instalarla y requisitos

Biblioteca y herramientas de terminal en C/C++ que sirven de base a muchas apps y definen el formato GGUF. Es la opción más técnica.

Verificado el 13/10/2026. Las versiones cambian cada semana: compruébalas en la web oficial antes de instalar.

Cómo instalarla

• Instalador oficial (README actual): macOS/Linux curl -LsSf https://llama.app/install.sh | sh; Windows (PowerShell) irm https://llama.app/install.ps1 | iex. También hay binarios en Releases y paquete de winget. El README usa el comando unificado llama: llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF (chat en la terminal) o llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF (servidor con interfaz web); -hf descarga el modelo desde Hugging Face.

Guías por sistema: Windows · Mac · Linux. Qué modelo descargar: Qué modelo de IA local elegir según tu RAM: 8, 16, 24 y 32 GB.

Otras herramientas de IA local

• Ollama: Motor y app para descargar y ejecutar modelos de lenguaje con un solo comando. Incluye una API local para conectar otras apps.
• LM Studio: App de escritorio con interfaz gráfica para buscar, descargar y chatear con modelos en formato GGUF o MLX. También tiene servidor local.
• Jan: App de escritorio de código abierto para chatear con modelos sin conexión, al estilo de ChatGPT.
• GPT4All: App de escritorio de Nomic para chatear en local y hacer preguntas sobre tus propios documentos (LocalDocs).
• Open WebUI: Interfaz web autoalojada, tipo ChatGPT, que se conecta a Ollama o a APIs compatibles con OpenAI.
• ComfyUI: Interfaz de nodos para generar imágenes y vídeo con modelos abiertos en tu propio equipo.