Módulo 3: LM Studio - Introducción
Descarga de Modelos (Model Zoo)
Descripción de la cápsula
LM Studio sin modelo es como un navegador sin internet. En esta cápsula descargarás tu primer modelo LLM local.
Aprenderás:
- Explorar Model Zoo (catálogo de modelos)
- Entender quantization (Q4, Q8, etc.)
- Descargar Mistral 7B (recomendado primer modelo)
- Gestionar modelos (eliminar, switch)
Tiempo: 20 min + descarga (10-30 min según internet)
Dificultad: Baja
🎯 Objetivos
- ✅ Explorar Model Zoo
- ✅ Entender quantization levels
- ✅ Descargar 1+ modelo (Mistral 7B)
- ✅ Verificar que modelo funciona
🔍 Paso 1: Explorar Model Zoo
1.1 Abrir Discover tab:
En LM Studio, click tab 🔍 Discover (top).
Verás catálogo de modelos disponibles con información de tamaño, license, y botón de descarga.
1.2 Filtros disponibles:
Por tamaño:
- Small (< 5GB) → 7B parameters
- Medium (5-15GB) → 13B parameters
- Large (> 15GB) → 70B+ parameters
Por quantization:
- Q4 (4-bit) → Más rápido, menos calidad
- Q5 (5-bit) → Balance
- Q8 (8-bit) → Más lento, mejor calidad
Por task:
- Chat/Instruct → Conversacional
- Code → Programación
- Embedding → Vectores (RAG)
📊 Paso 2: Entender Quantization
¿Qué es quantization?
Reducir precisión de pesos del modelo para usar menos memoria.
En LLMs:
- Modelo original (FP16): 100% calidad, 14GB RAM
- Q8 (8-bit): 95% calidad, 7GB RAM
- Q4 (4-bit): 85-90% calidad, 4GB RAM
Niveles de quantization:
| Quantization | Size | Quality | Speed | RAM (7B model) |
|---|---|---|---|---|
| Q8 | 7GB | 95% | Medio | 10GB |
| Q5 | 5GB | 90% | Rápido | 8GB |
| Q4 | 4GB | 85-90% | Muy rápido | 6GB |
Recomendación para empezar: Q4 (balance perfecto)
📥 Paso 3: Descargar Mistral 7B
3.1 Buscar modelo:
En Discover tab, busca: Mistral 7B Instruct
3.2 Elegir quantization:
Elige Q4_K_M (recomendado):
- Tamaño: ~4.37 GB
- Calidad: 85-90%
- Velocidad: Rápida
Click [Download]
Tiempo: 10-30 minutos (según tu internet)
📁 Paso 4: Gestión de Modelos
4.1 Ver modelos descargados:
Home tab → My Models
Verás lista de modelos descargados con opciones para Load y Delete.
4.2 Eliminar modelo:
Si necesitas liberar espacio, click [Delete] y confirma.
🧪 Paso 5: Primera Carga y Test
5.1 Cargar modelo:
- Home → My Models
- Click [Load] en Mistral 7B
- Espera 5-30 segundos
Indicador: 🟢 en top bar cuando cargue correctamente
5.2 Test en Chat:
- Click tab 💬 Chat
- Escribe:
Hola, ¿qué modelo eres? - Enter
Respuesta esperada:
Soy Mistral 7B, un modelo de lenguaje desarrollado por Mistral AI.
Estoy diseñado para responder preguntas y mantener conversaciones.
Si ves respuesta: ✅ Modelo funciona correctamente!
📚 Modelos Recomendados
Para empezar (7B):
1. Mistral 7B Instruct v0.2
- Size: 4.37 GB (Q4)
- Best for: General chat, español, inglés
- License: Apache 2.0 ✅
2. Llama 2 7B Chat
- Size: 3.83 GB (Q4)
- Best for: General chat
- License: Llama 2 Community
Si tienes 16GB+ RAM (13B):
3. Llama 2 13B Chat
- Size: 7.33 GB (Q4)
- Best for: Mejor calidad que 7B
- Trade-off: Más lento
Para código (7B):
4. Code Llama 7B
- Size: 3.8 GB (Q4)
- Best for: Python, JavaScript, etc.
- Especializado en programación
⚙️ Modelos Avanzados
Si tienes 32GB+ RAM (70B):
Llama 2 70B Chat
- Size: 40 GB (Q4)
- Calidad comparable a GPT-3.5
- Muy lento sin GPU potente
Solo recomendado si:
- Tienes 32GB+ RAM
- GPU con 16GB+ VRAM (NVIDIA 4090, A100)
- O paciencia para 30-60s por respuesta
🔄 Switching de Modelos
Cambiar de modelo activo:
- Home → My Models
- Click [Unload] en modelo actual
- Click [Load] en nuevo modelo
- Espera carga
Tip: Solo puedes cargar 1 modelo a la vez (limitación de RAM)
📊 Comparación de Modelos
| Modelo | Size (Q4) | Calidad | Velocidad | Español | Código |
|---|---|---|---|---|---|
| Mistral 7B | 4.4 GB | ⭐⭐⭐⭐ | ⚡⚡⚡ | ✅ Excelente | ⭐⭐⭐ |
| Llama 2 7B | 3.8 GB | ⭐⭐⭐ | ⚡⚡⚡ | ⭐⭐⭐ Bueno | ⭐⭐⭐ |
| Llama 2 13B | 7.3 GB | ⭐⭐⭐⭐ | ⚡⚡ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐ |
| Code Llama 7B | 3.8 GB | ⭐⭐⭐ | ⚡⚡⚡ | ⭐⭐ | ⭐⭐⭐⭐⭐ |
🐛 Troubleshooting
Descarga muy lenta
Causa: Server overload o internet lento
Solución:
- Espera (descarga en background)
- O descarga de Hugging Face directamente y coloca en folder de modelos
Error "Not enough RAM"
Causa: Modelo muy grande para tu hardware
Solución:
- Usa quantization menor (Q4 en vez de Q8)
- Cierra otras apps
- Descarga modelo más pequeño (7B en vez de 13B)
Modelo no aparece después de descargar
Causa: Download corrupto
Solución:
- Delete modelo
- Re-download
- Verifica tamaño de archivo en disk
📊 Resumen
Lo que hiciste:
-
Exploraste Model Zoo:
- Catálogo de 100+ modelos
- Filtros por size, quantization, task
-
Entendiste quantization:
- Q4: Rápido, 4GB (recomendado)
- Q8: Lento, 8GB (mejor calidad)
-
Descargaste Mistral 7B:
- 4.37 GB (Q4)
- Apache 2.0 license
- Español + Inglés
-
Testeaste modelo:
- Load en RAM
- Primera conversación
- Verificaste que funciona
Checklist:
- Descargaste 1+ modelo (Mistral 7B recomendado)
- Modelo aparece en Home → My Models
- Cargaste modelo exitosamente (🟢)
- Testeaste en Chat tab
- Obtuviste respuesta coherente
Si todos ✅: Listo para usar la interfaz completa!
🔗 Recursos adicionales
- Hugging Face Model Hub - Todos los modelos GGUF
- Mistral AI - Docs oficial Mistral
- Quantization Guide - Detalles técnicos
➡️ Próximo paso
Siguiente cápsula: 04-interfaz-chat.md
Ahora que tienes modelo descargado, vas a:
- Explorar interfaz de Chat
- Ajustar parameters (temperature, etc.)
- Usar playground
- Comparar diferentes prompts
Tiempo: 20 minutos
Dificultad: Baja
Tiempo estimado: 20 min + descarga (10-30 min)
Siguiente: 04-interfaz-chat.md