Módulo 3: LM Studio - Introducción

Módulo 3: LM Studio - Introducción

Siguiente →

¿Qué aprenderás en este módulo?

En el Módulo 2 aprendiste OpenAI API (cloud, pago por uso). Ahora aprenderás a ejecutar LLMs localmente en tu máquina con LM Studio, una aplicación desktop con interfaz gráfica.

Ventajas de local:

  • ✅ Costo $0 (solo hardware que ya tienes)
  • ✅ Privacidad 100% (datos nunca salen de tu máquina)
  • ✅ Sin internet necesario (funciona offline)
  • ✅ Sin rate limits (usa cuanto quieras)

LM Studio específicamente:

  • ✅ Interfaz gráfica (no CLI, no código al inicio)
  • ✅ Descarga modelos con 1 clic
  • ✅ API compatible con OpenAI (reusas código del Módulo 2!)

Al finalizar, tendrás LLM funcionando localmente y entenderás trade-offs vs cloud.

🎯 Objetivo del módulo

Dominar LM Studio: Setup a proyecto funcional

Entregables:

  1. LM Studio instalado y funcionando
  2. Modelo descargado (Mistral 7B o similar)
  3. API local corriendo (compatible OpenAI)
  4. Chatbot del Módulo 2 funcionando con API local (sin cambiar código!)

Proyecto final: Mismo chatbot Módulo 2, pero 100% local (zero API calls a OpenAI)

📋 Estructura del módulo

Progresión de cápsulas:

Fase 1: Setup (cápsulas 1-3)

  • 01: Introducción al módulo
  • 02: Instalación de LM Studio
  • 03: Descarga de modelos (model zoo)

Fase 2: Uso Básico (cápsulas 4-5)

  • 04: Interfaz gráfica (chat, playground)
  • 05: API local (servidor compatible OpenAI)

Fase 3: Integración (cápsulas 6-7)

  • 06: Migrar código OpenAI a LM Studio
  • 07: Comparación performance (local vs cloud)

Fase 4: Proyecto (cápsula 8)

  • 08: Mini-proyecto - Chatbot 100% local

🔗 Conexiones con otros módulos

Pre-requisito:

  • Módulo 2 (OpenAI API): Usarás el mismo código, solo cambiando endpoint

Comparación directa:

  • Módulo 2: Cloud ($$$), máxima calidad, simplicidad
  • Módulo 3: Local ($0), privacidad, calidad media

Siguiente paso:

  • Módulo 4 (Ollama): Local CLI (producción, Docker, scaling)

⏱️ Tiempo estimado

Total módulo: 2-3 horas

Desglose:

  • Cápsulas 1-3 (Setup): 45 minutos
  • Cápsulas 4-5 (Uso básico): 30 minutos
  • Cápsulas 6-7 (Integración): 45 minutos
  • Cápsula 8 (Proyecto): 30-45 minutos

Nota: Descarga de modelos puede tomar 10-30 min (según internet)

🛠️ Skills que desarrollarás

Técnicos:

  1. LM Studio:

    • Instalación multi-plataforma (Mac/Windows/Linux)
    • Model management (descarga, switching)
    • API local setup
    • Quantization (4-bit, 8-bit)

  2. Local LLM fundamentals:

    • Hardware requirements (RAM, GPU)
    • Model formats (GGUF)
    • Inference speed optimization
    • Context window management

  3. API compatibility:

    • Drop-in replacement para OpenAI SDK
    • Cambiar solo base_url
    • Mismo código, diferente backend

Conceptuales:

  1. Local vs Cloud trade-offs:

    • Costo: $0 vs $$$
    • Calidad: Media vs Alta
    • Privacidad: Máxima vs Media
    • Velocidad: Variable vs Consistente

  2. Hardware considerations:

    • RAM requirements (8GB min, 16GB recomendado)
    • GPU acceleration (opcional pero mejora 10x)
    • Storage (modelos 4-8GB cada uno)

  3. Model selection:

    • Mistral 7B vs Llama 2 13B vs Llama 2 70B
    • Quantization (Q4 vs Q8)
    • Context window (4k vs 32k)

📦 Requisitos previos

Skills obligatorios:

  • ✅ Módulo 2 completado (OpenAI API)
  • ✅ Python básico (para integración)
  • ✅ Terminal básico (ejecutar comandos)

Hardware mínimo:

ComponenteMínimoRecomendadoÓptimo
RAM8GB16GB32GB+
Storage10GB libre50GB libre100GB+
CPUIntel i5/AMD Ryzen 5Intel i7/AMD Ryzen 7Apple M1/M2/M3
GPUNinguna (CPU only)NVIDIA 4GB VRAMNVIDIA 8GB+ VRAM
OSmacOS 11+, Windows 10+, LinuxmacOS 12+, Windows 11Latest

Nota: Funciona en hardware modesto, pero más RAM = mejores modelos y más velocidad.

Verificar tu hardware:

macOS:

# RAM
sysctl hw.memsize

# CPU
sysctl -n machdep.cpu.brand_string

# GPU (Apple Silicon)
system_profiler SPDisplaysDataType

Windows:

# RAM
systeminfo | findstr "Total Physical Memory"

# CPU
wmic cpu get name

# GPU
wmic path win32_VideoController get name

Linux:

# RAM
free -h

# CPU
lscpu

# GPU
lspci | grep -i vga

💰 Costo del módulo

LM Studio:

  • Descarga: Gratis (open source)
  • License: MIT (uso comercial permitido)

Modelos:

  • Descarga: Gratis (Hugging Face, open source)
  • License: Varía (Mistral: Apache 2.0, Llama 2: Meta license)

Hardware:

  • Si ya tienes laptop/desktop: $0
  • Si necesitas upgrade RAM: $50-200
  • Si necesitas GPU: $300-1500 (opcional)

Total para módulo: $0 (asumiendo hardware existente)

🎯 ¿Por qué LM Studio vs Ollama?

Ambos son locales, pero diferentes use cases:

CaracterísticaLM StudioOllama
InterfazGUI (point & click)CLI (terminal)
DificultadBaja (beginners)Media (devs)
Uso idealDesarrollo, prototipadoProducción, servers
DockerNoSí
ScalingNo (single machine)Sí (multi-node)

Resumen:

  • LM Studio: Laptop personal, desarrollo
  • Ollama: Servidores, producción

Este módulo: LM Studio (más amigable para aprender)
Módulo 4: Ollama (más potente para producción)

📊 Qué construirás

Mini-proyecto final (cápsula 08):

Chatbot 100% local (sin OpenAI API)

Tomarás el chatbot del Módulo 2 y lo migrarás a LM Studio:

  • Mismo código Python
  • Solo cambias base_url y api_key
  • Costo: $0 (vs ~$0.50 Módulo 2)
  • Privacidad: 100% local

Ejemplo de cambio (2 líneas):

# Módulo 2 (OpenAI cloud)
client = OpenAI(api_key="sk-proj-...")

# Módulo 3 (LM Studio local)
client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="not-needed"
)

Todo el resto del código es idéntico.

🔄 Metodología del módulo

Aprendizaje visual-práctico:

Patrón: GUI primero → API después

  1. Exploro GUI (15 minutos):

    • Descarga modelo
    • Chat en interfaz
    • Veo cómo funciona visualmente

  2. Activo API (10 minutos):

    • Start local server
    • Test con curl
    • Verifico que funciona

  3. Integro con código (30 minutos):

    • Migro chatbot Módulo 2
    • Ejecuto localmente
    • Comparo resultados

Enfoque: Menos teoría, más hands-on (porque GUI es autoexplicativa)

✅ Criterios de éxito del módulo

Completaste exitosamente cuando:

Setup:

  • LM Studio instalado y abre correctamente
  • Descargaste 1+ modelo (Mistral 7B recomendado)
  • Chateaste en GUI (interface funcionando)

API:

  • Servidor local corriendo (localhost:1234)
  • Test con curl exitoso
  • OpenAI SDK conecta a API local

Integración:

  • Chatbot Módulo 2 funciona con LM Studio (sin OpenAI API)
  • Comparaste performance (local vs cloud)

Comprensión:

  • Entiendes trade-offs (costo, calidad, velocidad)
  • Sabes cuándo usar local vs cloud
  • Conoces limitaciones de hardware

Si cumples todos: ✅ Módulo 3 aprobado

🔗 Recursos del módulo

LM Studio:

  1. LM Studio Website - Descarga oficial
  2. LM Studio Docs - Documentación
  3. GitHub - Código fuente
  4. Discord - Community support

Modelos:

  1. Hugging Face - Model hub
  2. Mistral AI - Mistral models
  3. Meta Llama - Llama 2/3

Comunidad:

  1. r/LocalLLaMA - Subreddit
  2. LM Studio Discord - Chat tiempo real

🚀 Comenzar

Siguiente paso: 02-instalacion-lm-studio.md

En la próxima cápsula:

  • Descargarás LM Studio (Mac/Windows/Linux)
  • Instalarás la aplicación
  • Verificarás que funciona
  • Primera ejecución (UI tour)

Tiempo: 15 minutos
Dificultad: Muy baja

📝 Notas importantes

⚠️ Advertencias:

  1. Descarga de modelos es lenta:

    • Mistral 7B: ~4GB (10-30 min según internet)
    • Llama 2 70B: ~40GB (1-3 horas)
    • Descarga en WiFi estable

  2. Hardware importa:

    • 8GB RAM: Solo modelos pequeños (7B)
    • 16GB RAM: Modelos medianos (13B)
    • 32GB+ RAM: Modelos grandes (70B)

  3. GPU acelera pero no es obligatorio:

    • Sin GPU: 5-15s por respuesta (CPU)
    • Con GPU: 1-3s por respuesta
    • Apple M1/M2: Muy rápido (Metal acceleration)

✅ Tips para el éxito:

  1. Empieza pequeño:

    • Primer modelo: Mistral 7B (4GB, rápido)
    • Después: Experimenta con más grandes

  2. USA quantization:

    • Q4 (4-bit): Más rápido, menos RAM
    • Q8 (8-bit): Más lento, mejor calidad
    • Empieza con Q4

  3. Cierra apps pesadas:

    • Chrome con 50 tabs = 8GB RAM
    • Libera RAM para LM Studio

Tiempo estimado total: 2-3 horas
Siguiente: 02-instalacion-lm-studio.md

← AnteriorMini-Proyecto: Chatbot de Soporte TécnicoSiguiente →Instalación de LM Studio