AI-woordenboek / Overfitting

🏗️ Modellen en training

Overfitting (overtrainen) is een situatie waarin het model in plaats van algemene patronen te leren, de trainingsdata 'uit het hoofd leert'. Op materiaal dat het heeft gezien presteert het uitstekend; op nieuwe gevallen - slecht. Het is een klassiek probleem in heel machine learning. Bij grote taalmodellen uit overfitting zich onder meer in het woord-voor-woord reproduceren van onthouden trainingsfragmenten. Je voorkomt het met voldoende diversiteit in data, regularisatietechnieken en het testen van het model op materiaal dat het tijdens training niet heeft gezien.