AI-woordenboek / Contentmoderatie
🛡️ Veiligheid en kwaliteit
Contentmoderatie
Automatische filtering van inputs en outputs van het model op verboden content.
Moderatie in de context van AI is het automatisch controleren van content op verboden categorieën: geweld, seksuele content, haatzaaien, zelfbeschadiging. Filters gelden zowel voor wat de gebruiker invoert als wat het model genereert - en moderatiesystemen zijn zelf AI-modellen. Voor makers van applicaties bieden leveranciers aparte moderatietools aan, die je voor en na het hoofdmodel kunt inschakelen. Voor gebruikers is moderatie soms een bron van frustratie bij valse alarmen - zij is verantwoordelijk voor weigeringen bij onschuldige maar dubbelzinnig klinkende verzoeken.
Gerelateerde begrippen