RAG : quand le modèle doit savoir sur quoi il n'a jamais été formé
Un LLM est formé jusqu'à une date limite. Il ne connaît pas vos documents internes. Il ne sait pas ce qui s'est passé hier. La génération augmentée par récupération corrige ce problème : avant la génération, le système récupère les extraits pertinents d'une base de connaissances et les place dans le contexte. Le modèle voit le contexte plus les questions – et les réponses fondées sur des documents spécifiques, et pas seulement sur des pondérations. Il s’agit du modèle dominant pour les applications LLM de production.