AI-woordenboek / RLHF
🏗️ Modellen en training
RLHF
Het model trainen op menselijke beoordelingen van antwoorden - daardoor is het behulpzaam, niet alleen een 'tekstvoorspeller'.
RLHF (Reinforcement Learning from Human Feedback) is een trainingsfase waarin het model leert van menselijke beoordelingen: mensen vergelijken verschillende antwoorden van het model, wijzen de betere aan, en het algoritme past het model zo aan dat het vaker de geprefereerde antwoorden genereert. Juist RLHF en verwante technieken hebben ruwe 'tekstvoorspellers' veranderd in behulpzame assistenten die vragen beantwoorden in plaats van voortzetten, schadelijke verzoeken weigeren en een beleefde toon aanhouden. De prijs is soms dat het model overdreven meegaand wordt en de gebruiker naar de mond praat.
Gerelateerde begrippen