Módulo 4: Ollama - Introducción

Model Management con Ollama CLI

Siguiente →

Descripción

Aprenderás comandos CLI para gestionar modelos: descargar, listar, ejecutar, eliminar.

Tiempo: 20 minutos
Dificultad: Baja

🎯 Objetivos

  • ✅ Descargar modelos (pull)
  • ✅ Listar modelos (list)
  • ✅ Ejecutar modelos (run)
  • ✅ Eliminar modelos (rm)

📥 Comando: ollama pull

Descargar Mistral 7B:

ollama pull mistral

Output:

pulling manifest
pulling 4a0346896...
pulling 4a0346897...
success

Tiempo: 5-15 min (4GB download)

Modelos disponibles:

# Listar en ollama.com/library
ollama pull mistral        # 7B
ollama pull llama2         # 7B
ollama pull codellama      # 7B para código
ollama pull llama2:13b     # 13B (necesita 16GB RAM)

📋 Comando: ollama list

ollama list

Output:

NAME              ID            SIZE    MODIFIED
mistral:latest    4a0346896     4.1 GB  2 minutes ago
llama2:latest     3f8a42d       3.8 GB  1 hour ago

🚀 Comando: ollama run

Modo interactivo:

ollama run mistral

Chat interactivo:

>>> Hola, ¿qué modelo eres?
Soy Mistral 7B, ejecutándome localmente en tu máquina.

>>> /bye

Comandos especiales:

  • /bye - Salir
  • /show - Info del modelo
  • /set parameter value - Cambiar parámetros

🗑️ Comando: ollama rm

ollama rm mistral

Confirma eliminación del modelo (libera 4GB)

📊 Comando: ollama show

ollama show mistral

Output:

Model: mistral:latest
Family: mistral
Parameters: 7B
Quantization: Q4_0
Context: 32768

⚙️ Parameters en CLI

ollama run mistral --temperature 0.7 --top-p 0.9

Parameters disponibles:

  • --temperature (0-2)
  • --top-p (0-1)
  • --num-ctx (context window)
  • --num-predict (max tokens output)

🔄 Actualizar Modelo

# Actualiza a última versión
ollama pull mistral

📊 Comparación: Ollama vs LM Studio

FeatureOllama CLILM Studio GUI
Downloadollama pull mistralClick Download
Runollama run mistralClick Load
Listollama listHome → My Models
Deleteollama rm mistralClick Delete
Automation✅ Scriptable❌ Manual

Ollama ventaja: Automatizable (scripts, CI/CD)

🐛 Troubleshooting

Error: Model not found

# Lista modelos disponibles
ollama list

# O visita: https://ollama.com/library

Error: Not enough memory

Solución: Descarga versión quantizada menor:

ollama pull mistral:7b-q4  # Q4 (4-bit)
ollama pull mistral:7b-q2  # Q2 (2-bit, más pequeño)

✅ Resumen

Comandos esenciales:

  • ollama pull <model> - Descarga
  • ollama list - Lista
  • ollama run <model> - Ejecuta
  • ollama rm <model> - Elimina
  • ollama show <model> - Info

Workflow típico:

ollama pull mistral
ollama list
ollama run mistral
# Chat interactivo...
ollama rm mistral  # Si ya no lo necesitas

Siguiente: 04-api-rest.md

Aprenderás a usar Ollama como servidor API REST (compatible OpenAI).

Tiempo: 25 min

← AnteriorInstalación de Ollama CLISiguiente →API REST de Ollama