Garde-corps et filtrage : sécurité, jailbreaks
Une application LLM de production est bien plus qu’un modèle de base. Les garde-corps sont les couches de politiques, de classificateurs et d'invites qui bloquent les sorties nuisibles, suppriment les secrets et renforcent le ton de la marque. Les attaquants sondent ces couches avec des jailbreaks, des invites conçues pour contourner les instructions. La défense n’est jamais parfaite ; l'objectif est de réduire les risques de manière mesurable et de consigner les incidents pour itération.