Generación de un proyecto utilizando arquitectura CAG y wrappers de modelos
Sesión 02. Primeros pasos de arquitectura CAG
- Explicación del proyecto que vamos a realizar en el módulo de manera incremental
- Fundamentos de arquitectura CAG
- Arquitectura de proyecto que incluya llamadas a LLM mediante API
- Tokens
- Contexto
- Parámetros: nivel de razonamiento, temperatura (quitado ya en casi todos), verbosity
- Tools
- Arquitectura de conversación
- Gestión de claves, rate limiting y manejo de errores
- Costes y optimización de consumo
Sesión 03. Patrones de diseño para wrappers de modelos
- Introducción a interfaces conversacionales
- Frameworks y librerías
- Listado de las más conocidas
- Ejemplo con streamlit
- Pros y contras de usar librerías
- DIY: ejemplo con código (tipo peripheral)
- Arquitectura de capas para wrappers de LLMs
- Abstracción de proveedores y estrategias de fallback
- Cacheo inteligente de respuestas
- Streaming y manejo de respuestas largas
- Logueo y trazabilidad
Sesión 04. Productos IA avanzados
- Adaptación de interfaces para abstracción de prompts
- Experiencia de usuario: Dar al usuario una interfaz donde el usuario no tenga que ocuparse del prompting, solo pedir lo que necesita de la forma más básica posible (idealmente un botón o comando, botones de parámetros, selector de los casos de uso).
- La calidad de la respuesta no debe depender de la calidad del prompt. Calidad homogénea para todos los usuarios
- De interfaz conversacional a acciones y formularios (interfaces tradicionales)
- Prompts estructurados y templates dinámicos
- Extracción de datos estructurados (JSON, schemas)
- Guardrails y validación de outputs
Sesión 05. Funcionalidades avanzadas
- Integración de contexto dinámico desde fuentes externas
- Archivos adjuntos
- Búsqueda web
- Bases de datos
- Implementación de memoria conversacional
- Historial
- Sistema de prompts adaptativo mediante permisos de usuario
- Ingenieros asumen que todo usuario tiene acceso a todo
- Es desarrollo web normal (parámetro “tier” en base de datos, interfaz adaptada al parámetro, y prompts diferentes)
- Dar un ejemplo ya hecho: modo investigacion profunda
- NO se llevaría al directo, simplemente sería parte de la solución que se entrega para la sesión en vivo
- Testing y evaluación del sistema