Suivi des applications LLM en production
L'expédition d'une fonctionnalité LLM est le premier jour — la surveillance est ce qui assure sa sécurité semaine après semaine. Contrairement aux API statiques, les sorties du modèle dérivent en fonction des invites, des données et des modifications de poids en amont. Vous avez besoin de métriques techniques (latence, erreurs, coût), de métriques de qualité (étiquettes humaines, modèle en tant que juge, pouces de l'utilisateur) et de gouvernance (journaux d'audit, détection des informations personnelles). Cette leçon cartographie une pile d'observabilité minimale.