8. Ejercicio Integrador: Diseñar un Sistema de Búsqueda

Descripción del ejercicio

Este es el ejercicio integrador del Módulo 6. Aquí vas a diseñar un sistema de búsqueda completo para un caso específico, tomando decisiones sobre chunking, embeddings, vector DB, ranking, y métricas.

El caso: Buscador académico

Contexto:
Universidad quiere un buscador interno para 100K papers científicos (PDF) en múltiples disciplinas (CS, física, biología, matemáticas).

Requisitos:

1. Queries típicas:

   • Conceptuales: "métodos de optimización en machine learning"
   • Exactas: "paper de Hinton 2012"
   • Exploratorias: "últimos avances en quantum computing"

2. Funcionalidades:

   • Búsqueda por autor, año, disciplina
   • Sugerir papers relacionados (diversidad)
   • Preferir papers recientes (boost temporal)

3. Restricciones:

   • Latencia < 1 segundo
   • Presupuesto limitado (preferir modelos locales si posible)
   • Alta precision (académicos son usuarios exigentes)

Tarea: Diseña la arquitectura

Para cada componente, decide:

1. Chunking strategy

2. Embedding model

3. Vector database

4. Search strategy

1. Detectar patrón de query:
   ¿Contiene "paper de [autor] [año]"?
   → Filtro exact: author + year + semantic search

   ¿Contiene disciplina ("en CS")?
   → Filtro: discipline=CS + semantic search

   Sino:
   → Hybrid search (α=0.7, favor semantic)

2. Ejecutar búsqueda (top-100)

3. MMR (λ=0.6, diversificar por disciplina y autor)

4. Boost temporal (papers < 2 años: 1.3x)

5. Retornar top-20

5. Ranking strategy

Fusión keyword + semantic
→ RRF con k=60

λ = 0.6
Diversificar por:
- Disciplina (no 20 papers de CS si query es general)
- Autor (no 20 papers del mismo grupo)

Papers < 2 años: 1.3x
Papers 2-5 años: 1.1x
Papers > 5 años: 1.0x

6. Query processing latency

1. Embedding de query (SPECTER local): 50ms
2. kNN search (Weaviate HNSW): 80ms
3. MMR (diversificar 100 → 20): 100ms
4. Total: ~230ms

7. Evaluation metrics

Diagrama de arquitectura (solución)

┌─────────────────────────────────────────────────┐
│              100K PAPERS (PDF)                  │
└────────────┬────────────────────────────────────┘
             │
             v
    ┌────────────────┐
    │  Hierarchical  │ (Por secciones)
    │   Chunking     │
    └────────┬───────┘
             │
             v
    ┌────────────────┐
    │  SPECTER       │ (Embeddings locales)
    │  768D          │
    └────────┬───────┘
             │
             v
    ┌─────────────────────────────────────┐
    │  WEAVIATE (self-hosted)             │
    │  - HNSW index                       │
    │  - Metadata: author, year, discipline│
    └────────┬────────────────────────────┘
             │
             │
    ┌────────┴────────┐
    │                 │
    v                 v
┌─────────┐    ┌──────────────┐
│ Keyword │    │  Semantic    │
│  BM25   │    │  (cosine)    │
└────┬────┘    └──────┬───────┘
     │                │
     └────────┬───────┘
              │
              v
     ┌────────────────┐
     │  RRF Fusion    │
     └────────┬───────┘
              │
              v
     ┌────────────────┐
     │  MMR           │ (λ=0.6, diversidad)
     └────────┬───────┘
              │
              v
     ┌────────────────┐
     │ Boost Temporal │ (< 2 años: 1.3x)
     └────────┬───────┘
              │
              v
     ┌────────────────┐
     │   Top-20       │
     └────────────────┘

Resumen del ejercicio

Lo que hiciste:

1. ✅ Diseñaste chunking strategy (hierarchical)
2. ✅ Elegiste embedding model (SPECTER local)
3. ✅ Seleccionaste vector DB (Weaviate)
4. ✅ Definiste search strategy (híbrida + MMR)
5. ✅ Estableciste ranking (RRF + MMR + boost)
6. ✅ Estimaste latencia (200-300ms)
7. ✅ Definiste métricas (Precision, NDCG, diversity)

Intuición consolidada:

"Diseñar un sistema de búsqueda requiere decisiones informadas en cada componente: chunking, embeddings, vector DB, ranking. No hay solución única; depende de requisitos (latencia, presupuesto, precisión) y tipo de queries."

Conclusión del Módulo 6

Felicidades por completar Módulo 6: Diseño de Sistemas de Búsqueda. 🎉

Lo que lograste:

1. ✅ Entiendes arquitectura end-to-end (indexación, query processing)
2. ✅ Diseñas pipeline de indexación (chunking, embeddings)
3. ✅ Optimizas query processing (kNN, reranking)
4. ✅ Implementas ranking avanzado (RRF, MMR, boost)
5. ✅ Evalúas calidad (precision, recall, MRR, NDCG)
6. ✅ Analizas casos de estudio (RAG, e-commerce, soporte)

Intuición clave del módulo:

Un sistema de búsqueda efectivo integra múltiples técnicas (chunking, embeddings, ANN, ranking, filtros) en una arquitectura coherente. Las decisiones de diseño dependen de requisitos específicos: latencia, presupuesto, tipo de queries, y precisión esperada.

Próximo módulo: Módulo 7: RAG (Retrieval-Augmented Generation) — Integración completa con LLMs.