Monitoreo de aplicaciones LLM en producción
Enviar una función LLM es el primer día: el monitoreo es lo que la mantiene segura semana tras semana. A diferencia de las API estáticas, las salidas del modelo varían con indicaciones, datos y cambios de peso ascendentes. Necesita métricas técnicas (latencia, errores, costo), métricas de calidad (etiquetas humanas, modelo como juez, pulgares de usuario) y gobernanza (registros de auditoría, detección de PII). Esta lección mapea una pila de observabilidad mínima.