RAG
Het koppelen van een model aan een kennisbank - AI zoekt eerst feiten op, dan antwoordt het. Minder hallucinaties.
RAG (Retrieval-Augmented Generation) is een architectuur die een taalmodel koppelt aan een externe kennisbank: voordat het model antwoordt, zoekt het systeem passende documentfragmenten op en voegt deze toe aan de prompt. Het model antwoordt op basis van de geleverde feiten, niet alleen op basis van geheugen uit de training. Dit is de standaardmanier om bedrijfsassistenten en bots te bouwen op basis van eigen documenten: minder hallucinaties, actuele kennis zonder opnieuw te trainen en de mogelijkheid om bronnen te vermelden. De kwaliteit van RAG hangt vooral af van de kwaliteit van het zoeken - het model kan niet compenseren als het de verkeerde fragmenten krijgt.